Japan AI Safety Institute

Newmade に載ったもの

AI ・ AIセーフティ評価環境(aisev)

「aisev」に業務の資料を入れたら、攻撃プロンプトが自動で出てきた

「AIセーフティに関する評価観点ガイド」に沿って、定量評価と定性評価を組み合わせるリファレンス実装です。自動レッドチーミングも同梱しています。
正式公開 09-11 ・ Windows / Mac ・ 無料