ChillStack、AI搭載サービス向け「AI Safety ソリューション」を提供開始

　ChillStackは、AIを搭載したサービスにおけるセキュリティリスクの把握から対策までを支援する「AI Safety ソリューション」の提供開始を、4月23日に発表した。同ソリューションは、企業が自社サービスにAIを搭載する際のリスクに対し「教育」「診断」「防御」の3つのサービスを組み合わせ、サービスの開発・実装・運用までの各フェーズで包括的に安全対策を提供するものである。

　AIの活用が進む一方、プロンプトインジェクションやハルシネーションなどAI特有のリスクが顕在化しており、ChillStackの調査ではすでに56％の企業がAIを組み込んだシステムを提供・運用している。大規模な開発現場や品質管理部門では、リスク評価の精度のばらつきや従来手法によるAIの安全性評価の限界が課題となっており、組織的なリスク評価基準や実効性のある防御体制の構築が求められている。

　AI Safety ソリューションには、三井物産セキュアディレクションと共同で提供する「セキュアAIトレーニング」による教育サービス、AI診断の専門家やホワイトハッカーによる「AI診断」、AI保護システム「Safia」を用いた防御サービスが含まれる。教育面では設計から運用までの知識・技術習得を支援し、診断面ではAI特有の攻撃手法や設定不備の多角的調査・リスク洗い出しを行う。防御面では社内でのAI利用監視とリアルタイムブロックを通じて個人情報や機密情報の流出防止に取り組む。