Mozillaは4月9日、「0DIN AIセキュリティスキャナー」をApache 2.0ライセンスの下、オープンソースで公開した。同時に、35種類の脆弱性ファミリーを網羅する179種類のコミュニティプローブと、バグバウンティライブラリから厳選した6種類の特殊プローブも公開した。
0DIN Scannerは、NVIDIAのオープンソースフレームワーク「GARAK」をベースに構築。グラフィカルインターフェース、自動スキャンスケジューリング、モデル間比較分析、エンタープライズグレードのレポート機能を備えており、最先端のLLMモデルやチャットボットなどあらゆる対象に対応。
AIシステムを悪用する手法を発見する「バグ報奨金プログラム」を通して新たな技術が発見されるたびに、オープンソースライブラリにプローブが追加されていく。プログラムによる調査のうち、今回6件が初めて公開される。
コードはGitHubで公開されている。詳細はブログポストを参照のこと。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営する開発者のための情報メディアです。日々の開発に取り組むエンジニアやテクノロジーを学びたい方に向けて、プログラミングやAI活用、開発ツール、エンジニアの学びとキャリアに関する記事をお届けしています。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか？
この記事をシェア
