AI/ML機能に対する、開発者とセキュリティ担当者の捉え方の違い
AI/MLの台頭は順風満帆なことばかりではありません。セキュリティに関する回答者の過半数（67％）が、AI/ML機能が自分の仕事に与える影響を懸念していると答え、そのうち28％が「とても」または「極度に」懸念していると回答しました。懸念を表明した回答者のうち25%は、AI/MLが自分の仕事を難しくするようなエラーを引き起こす可能性を心配していると答えました。
AI/MLは、開発側での普及が進んでいるにもかかわらず、セキュリティ担当者が職業上の目標や優先順位を変更する中で、他の影響力の大きい分野と競合しています。昨年、セキュリティ専門家は、AI/MLを自分のキャリアを向上させるために最も重要なスキルとして認識し、セキュリティ専門家がAI/MLを選択する傾向は、開発者や運用専門家よりも顕著に高まりました。今年は、ほぼ4分の1（23％）のセキュリティ専門家がAI/MLを選択した一方で、ソフトスキル（31％）、専門分野（30％）、メトリクスと定量的洞察（27％）などのスキルをより重視しています。
組織はAIを安全に導入し、セキュリティとプライバシーのベストプラクティスの上に構築していることを確認できるパートナーを探すことができます。これにより、コンプライアンス基準の遵守を犠牲にすることなく、また顧客や利害関係者との関係を危険にさらすことなく、AIの導入を成功させることができます。
AI導入を実現する最適な方法
多くの組織がワークフローへのAIの組み込みを急いでいますが、最も成功を収めるのは、AIの導入に慎重で戦略的なアプローチを採用している企業です。組織が成功に向けて準備を整える方法を以下にいくつか見ていきましょう。
1．プライバシー第一のアプローチ
AIを使用するには、組織とその顧客の両方に対して責任を持って持続的に実装するためのガードレールが必要です。
AIツールが企業、顧客、パートナーの専有データを保存および保護する方法を慎重に検討しないと、組織はセキュリティリスク、罰金、顧客の減少、評判の低下に対して脆弱になる可能性があります。これは、公共部門、金融サービス、医療など、厳格な外部規制およびコンプライアンス義務を遵守する必要があり、規制の厳しい環境にある組織にとっては特に重要です。
透明性はAIの寿命の基盤になりますが、現在利用可能な多くの一般的なAIツールの背後にある企業は、モデルトレーニングデータのソースについて透明性が低いということが現状です。モデル、トレーニングデータ、許容される使用ポリシーが不透明で、検査に対して閉鎖的である場合、組織がそれらのモデルを安全かつ責任を持って使用することはより困難になります。
2．小規模から始める
AIの効率性から安全かつ戦略的に利益を得るために、組織は最初に組織内でリスクが最も低い場所を特定することで、データ漏洩やセキュリティの脆弱性などの落とし穴を回避できます。これにより、後発のチームがAIを採用できるようにする前に、まずリスクの低い領域でベストプラクティスを構築し、安全に拡張することができます。
組織のリーダーは、技術チーム、法務チーム、AIサービスプロバイダー間の会話を促進することから始めましょう。共有目標のベースラインを設定することは、AIでどこに焦点を当て、どのようにリスクを最小化するかを決定する上で非常に重要です。そこから組織は、従業員の使用、データのサニタイズ、製品内の開示、モデレーション機能など、AI導入のためのガードレールやポリシーを設定し始めることができます。また、組織は、十分にテストされた脆弱性の検出と修復プログラムに積極的に参加しなければなりません。
3．適切なパートナーを見つける
AIの安全な導入を支援し、セキュリティとプライバシーのベストプラクティスを確実に構築できるパートナーを探すことも方法のひとつです。これにより、コンプライアンス基準の遵守を犠牲にすることなく、また顧客や利害関係者との関係を危険にさらすことなく、AIの導入を成功させることができます。
組織から示される、AIとデータプライバシーに関する懸念は、通常、次の3つのカテゴリーのいずれかに分類されます。AI/MLモデルの学習にどのようなデータセットが使用されるか、独自のデータがどのように使用されるか、モデルの出力を含む独自のデータが保持されるかどうか。パートナーやベンダーの透明性が高ければ高いほど、組織はビジネス関係を評価する際に、より多くの情報を得ることができます。
4．プロアクティブな緊急時対応計画の策定
チームのリーダーは、AIの使用を取り巻くセキュリティ・ポリシーと緊急時対応計画を作成し、AIモデルに送信されたプロンプトやAIモデルから受信したアウトプットの保存を含め、AIサービスが専有データや顧客データをどのように取り扱うかを見直すことで安全なAI導入を実現できます。
こうしたガードレールが整備されていなければ、その結果、組織におけるAIの将来の導入に深刻な影響を与えかねません。 AIは企業を変革する可能性を秘めていますが、同時にまた、現実にはリスクを伴うものであり、技術者もビジネスリーダーも同様に、責任をもってそれらのリスクを管理する責任があります。
昨今のAIテクノロジーの採用方法は、AIが今後果たす役割に影響を与えます。AIを組み込む優先領域を思慮深く戦略的に特定することで、組織は脆弱性を生み出したり、コンプライアンス基準の遵守を危険にさらしたり、顧客、パートナー、投資家、その他の利害関係者との関係を危険にさらしたりすることなく、AIのメリットを享受できます。
