おおむね同じペースで発展してきた攻撃技術と防御技術──取り残されたGRC
攻撃側がAIを悪用する一方で、防御側にもAIを活用する動きは進んでいる。GoogleのBig Sleepは2025年、実際に悪用される前にゼロデイ脆弱性を発見した。AIセキュリティ企業のXBOWはHackerOneの米国リーダーボードで1位を獲得し、GitHub Copilotのautofixは脆弱性の修復にかかる時間を平均1.5時間から28分へと短縮した。DARPAのAI Cyber Challengeでは、参加システムが63件の脆弱性のうち54件を発見し、43件にパッチを適用したという。
Knight氏は、これはLLM固有の新しい解決策ではないと釘を刺す。2010年からGoogleは機械学習をフィッシング攻撃の分類に使い続けており、2016年にはDARPA Cyber Grand ChallengeでMayhemが人間の介在なしに脆弱性の発見・悪用・パッチ適用を完全自律で行い話題になった。パッケージレジストリの世界でも、Sonatypeが2019年から機械学習を使って悪性アーティファクトの検出・削除を行ってきた。「私たちはLLMが登場するずっと前から機械防御の歴史を持っている。攻撃技術と防御技術は、おおむね同じペースで発展してきた」とKnight氏は語る。
しかし、その歩みから置き去りにされたものがある。GRCだ。技術的なセキュリティは自動化に向かっているのに対し、ガバナンス・リスク・コンプライアンスは今も手作業のスプレッドシート、ベンダーにロックインされたWebポータル、スクリーンショットに依存する時代に取り残されたままだと、Knight氏は指摘する。
潜在的な攻撃やその経路について最も深い調査を行っている人たちの情報はスプレッドシートに眠ったままであり、開発者はそれを参照せずにセキュリティスキャナーを構築している。GRCソリューションを乗り換えようとすればプログラム全体を作り直すリスクを負う点も、この分断を固定化してきた。
このギャップを象徴するのが、「防御側はシステムで考え、攻撃者は足がかりで考える」というKnight氏の言葉だ。
防御側は自然と壮大なシステムを設計しようとするが、AI駆動の攻撃者は足がかりさえあればよく、抵抗が最も少ない経路を見つけては書き留め、次の足がかりを探し続ける。ゼロトラストの発想で「攻撃者はいずれ足がかりを得る」ことを前提に、次の足がかりをどう防ぐかを起点に防御を設計しない限り、適切な防御にはならないという。
この状況を変える一歩として、Knight氏はLF FINOSのRob Moffat氏が提唱する「Ten Factor Governance」を紹介した。ガバナンスをコードのようにバージョン管理し、継続的に検証・展開していくという10の原則で構成され、詳細はtenfactorgovernance.orgで公開されている。
