AIの安全確保技術が学べる「セキュアAI開発トレーニング」を5月より提供開始

　ChillStackと三井物産セキュアディレクションは、AIの安全確保技術を習得できるハンズオン・トレーニング「セキュアAI開発トレーニング」の提供を5月より開始する。

　近年のAIに対する攻撃手法は、既存システムに対する攻撃手法とは根本的に原理が異なるものが多く、従来のセキュリティ技術で対策することが困難となっている。AI開発の工程においても、一例として学習データの汚染やモデルの窃取など、さまざまなリスクが想定される。

　各開発工程でセキュリティを考慮しない場合、攻撃者が細工したデータが学習データに注入され、AIにバックドアが設置されてしまう問題が起きるほか、AIの入力データが偽装されることで、AIの判断に誤りが生じる問題が顕在化するおそれがある。

　今回、ChillStackと三井物産セキュアディレクションは、これまで培ってきたサイバーセキュリティに関する技術と、AIに対する攻撃手法および防御手法に関する研究成果を元に、1からAIの安全確保技術を習得できる「セキュアAI開発トレーニング」を提供することにした。

　「セキュアAI開発トレーニング」では、機械学習エンジニアやデータサイエンティスト、ソフトウェアエンジニアなど、AIの開発・導入に携わる全ての人を対象としている。本トレーニングを受講することで、AIに対する攻撃・防御技術およびセキュアなAIを開発する技術を習得することができる。具体的には、以下の内容を学ぶことが可能。

• AIをだます攻撃：人間には識別できない小さな変化を加えたデータを使用し、AIを意図的にだます攻撃手法と対策を学べる。
• AIを乗っ取る攻撃：AIが学習するデータセットを汚染し、AIにバックドアを仕込むことでAIに意図した挙動をさせる攻撃手法と対策を学べる。
• AIシステムへの侵入：機械学習フレームワークの仕様を悪用し、システムへ侵入する攻撃手法と対策を学べる。