情報処理推進機構（IPA）のAIセーフティ・インスティテュート（AISI）は、2024年９月に公開した「AIセーフティに関するレッドチーミング手法ガイド」を、具体的な実施例を通してより詳細に理解できるよう改訂したことを、4月2日に発表した。
「AIセーフティに関するレッドチーミング手法ガイド」は、AIシステムの開発者や提供者が対象のAIシステムに施したリスクへの対策を、攻撃者の視点から評価するためのレッドチーミング手法に関する基本的な考慮事項を示すものとして公開されている。一方で、レッドチーミングの実施には高い専門性が求められることから、公開時点ではより実践的なガイドにする必要があった。
今回の改訂では、RAG（Retrieval-Augmented Generation）の仕組みを実装したAIシステムに対して実際にレッドチーミングを行い、その手順を詳細に解説するとともにレッドチーミング実施の成果物を文書としてとりまとめている。これらは、別紙および別添として同ガイドに追加された。
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営する開発者のための情報メディアです。日々の開発に取り組むエンジニアやテクノロジーを学びたい方に向けて、プログラミングやAI活用、開発ツール、エンジニアの学びとキャリアに関する記事をお届けしています。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか？
この記事をシェア
