AIシステムに対するレッドチーミング手順を詳細に解説 AIセーフティ・インスティテュート(AISI、所長:村上明子)は、2024年9月に公開した「AIセーフティに関するレッドチーミング手法ガイド」について、具体的な実施例を通してより詳細に理解できるよう改訂しました。RAG(Retrieval-Augmented Generation)の仕組みを実装したAIシステムに対して実際にレッドチーミングを行い、その手順を詳細に解説するとともに、レッドチーミング実施の成果物を文書としてとりまとめています。 AIセーフティに関するレッドチーミング手法ガイド 概要 AIシステムの悪用や誤用、不正確な出力による懸念などが生じ、AIセーフティ(注釈1)についての関心が国内外で高まりつつある中、AISIでは2024年9月に「AIセーフティに関するレッドチーミング手法ガイド」を公開しました。このガイドは、AIシス