AI活用の本当の課題は、AIではなくデータだった。生成AIの全社展開を加速するガバナンスと責任分解

【B-5】AI推進室がAI審査室になりかけた話 ～生成AI活用を加速するためのデータガバナンスと組織設計～

モデル・サービス・データ、3層の審査基準で課題の本質に向き合う

　過去の審査を振り返ると、ある共通点が浮かんだ。「用途は問い合わせ対応・開発・会議など多岐にわたっていましたが、承認済み審査の約8割は個人情報・機密情報の扱いが論点になっていました。つまり本当の課題は、このAIはOKかどうかではなく、このデータをこの目的でここに流していいのか、ということだったんです」。

　この気づきを起点に、AI推進室は審査基準を「モデル」「サービス」「データ」の3層で整理した。モデル層では稼働リージョンや提供元、学習利用の可否を確認する。サービス層では契約内容や安全管理措置、ログの扱いを見る。総務省・IPA・OWASP・日本ディープラーニング協会など複数の指針を突き合わせて整理した体系だ。

　「モデルとサービスは仕様書や契約書を見れば比較的明確です。でもデータについては、自分たちの業務データをどこまで使えるかというのは、外から決められる話ではない。自分たちで線を引くしかなかった」と松山氏は言う。データの層だけが、自社独自の判断を要する難所だった。

審査基準の軸は「モデル・サービス・データ」

　データの線引きには「分類」と「責任分解」という2つのアプローチで臨んだ。分類では、すでに社内で使っていた3つの観点、「帰属・出所」（誰のデータか）、「機密度」（公開・社内・関係者限定）、「法規制・契約」（個人情報保護法やNDAの対象か）に対して、AI入力可否の閾値という観点を新たに加えた。分類を作り直すのではなく、既存のメタデータにAIの観点を一つ足すというアプローチだ。3条件をすべて満たせばリスク低と判断し、一つでも外れればデータオーナーのレビューへ進む仕組みにした。

AI推進室は「判断する人」から「判断できる状態を作る人」へ

　責任分解では、データオーナー、情報セキュリティ部門、現場部門といった既存の管理体制にAI推進室を加え、判断の役割を明確に分けた。AI推進室はモデルとサービスの共通評価とAI固有の審査基準を担う。データオーナーは目的の範囲内でそのデータを使っていいかを判断する。情報セキュリティ部門はセキュリティ・統制・監査の観点から見る。現場部門が最終的な妥当性と実運用の責任を持つという分担だ。

　「AI推進室がすべてを判断する仕組みだと、利用が増えるほどボトルネックが深刻になります。データの意味や業務上の必要性、契約の背景は、現場やデータオーナーが一番よく知っている。AI推進室は、すべてを判断する人ではなく、それぞれが同じ基準で判断できる状態を作る人に変わる必要があったんです」

既存の管理体制にAI利用の責任を重ねる

　さらに審査を高速化するために導入したのが、スコアリングロジックだ。評価の軸は以下の3つ。

• A：セキュリティ・AI固有の審査項目
• B：利用規模（人数・部署・用途）
• C：情報の重要性（データ分類）

　リスクスコアはA×B×Cで算出され、「禁止」「高（個別審査＋是正確認）」「中（条件付きで許可）」「低（簡易チェックのみ）」の4段階で判定が出る。申請者が事前に自分でチェックできるため審査期間の短縮にもつながり、最近では生成AIを使ってヒアリングシートとロジックを組み合わせた自動判定にも取り組んでいる。

評価の軸に応じてリスクを分類し、対応の重さを変えた