Mozillaは4月9日、「0DIN AIセキュリティスキャナー」をApache 2.0ライセンスの下、オープンソースで公開した。同時に、35種類の脆弱性ファミリーを網羅する179種類のコミュニティプローブと、バグバウンティライブラリから厳選した6種類の特殊プローブも公開した。
0DIN Scannerは、NVIDIAのオープンソースフレームワーク「GARAK」をベースに構築。グラフィカルインターフェース、自動スキャンスケジューリング、モデル間比較分析、エンタープライズグレードのレポート機能を備えており、最先端のLLMモデルやチャットボットなどあらゆる対象に対応。
AIシステムを悪用する手法を発見する「バグ報奨金プログラム」を通して新たな技術が発見されるたびに、オープンソースライブラリにプローブが追加されていく。プログラムによる調査のうち、今回6件が初めて公開される。
コードはGitHubで公開されている。詳細はブログポストを参照のこと。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
