なぜ障害対応の属人化はなくならないのか？ AI時代に問い直す「責任」と「専門性」

【17-A-3】AI時代のシステム障害対応における責任・専門性とは？ ～10年・約2000件の障害対応から見えた、ミッションクリティカルシステムが解くべき属人化の本質～

米国で急成長するAI SRE、価値への課金シフト

　2025年10月、野村氏は米国のテックカンファレンス「TechCrunch Disrupt 2025」に参加し、急成長する「AI SRE」という潮流を目の当たりにした。会場周辺ではB2BのAI SREスタートアップの広告を掲げたトラックが走り、サンフランシスコの街中にもB2BのAI企業の広告が数多く並んでいたという。2023〜2024年ごろに登場したばかりのこの領域では、すでに複数のスタートアップが台頭し、2026年7月時点ではユニコーン企業も誕生しているという。

米国を走るAI SREスタートアップの広告トラック

　野村氏が驚いたのは成長速度だけではない。課金形態にも変化が生じており、人数や工数単位の課金から、1件の調査や1件の問い合わせ解消といった「価値」に対する課金へと移行が進んでいるという。野村氏はこの流れが今後、日本にも波及すると見ている。

属人化の正体は「責任」と「専門性」

　野村氏はここから本題として、AI時代のシステム障害対応における属人化の本質を、ミッションクリティカルシステムの危機対応を前提に整理した。属人化の正体は「責任」と「専門性」の2つに分かれ、さらに責任は事後処理責任と説明責任に、専門性は直感的類似検索と分析的仮説検証に分けられるという。

属人化の本質＝「責任」と「専門性」

　事後処理責任とは、AIが提示した手順に従った結果に問題が生じた場合、その責任を負えるか、平たく言えば「尻拭いができるか」を指す。説明責任とは、なぜそのアクションを選んだかを、判断情報と判断基準に基づいて説明できるかを意味する。野村氏は、判断情報・判断基準・アクション候補をあらかじめ定義しておき、AIにはそこからの差分を出させる、あるいはAIの協力を得て差分を導く仕組みが必要だと説いた。

　具体例として野村氏が挙げたのは、サーバーのメモリ使用率が90％以上の状態が5分継続した場合に、事前に定めた手順で再起動するといった対応である。AI時代にはメモリだけでなくCPUやディスクの数値も併せて監視し、80％以上の状態が60分継続した場合にも対応するといった具合に、判断基準を拡張していく必要があるとした。判断を誤った場合でも、事前に準備していれば何が起こるか予想がつくので事後処理責任が果たせ、判断基準や判断情報に立ち返って経緯を説明できれば、説明責任を果たせるというのが野村氏の考えである。
もう1つの例として、サービスの正常性チェックが2回連続でNGになった場合に、Web上へ「異常が発生している可能性がある」と掲示するという対応も挙げた。どのような情報を、どのような基準で判断し、どのようなアクションを取ったかを言語化しておくことで、事後の振り返りや説明が可能になるという。

　専門性については、過去の類似事例に照らして仮説を立てる「直感的類似検索」と、その仮説を一つずつ確認していく「分析的仮説検証」の往復であるとした。これは医師が患者を診察する際の診断プロセスを応用したものだという。

　例えば、利用者から「操作ができなくなった」と連絡を受けた際、担当者はまず「あの管理画面はメモリ不足で止まることがある、再起動すれば直るのではないか」と直感的に類似の事例を想起する。しかし実際にメモリの状態を確認したところ0％で張り付いていた場合には、「そもそも監視自体が機能していないのではないか」という新たな類似検索に立ち返る。野村氏は、こうした直感的類似検索と分析的仮説検証の往復こそが、ベテランの経験と勘の正体だと説明した。

　この責任と専門性という属人化の本質への理解をもとに、野村氏が開発を進めているのが、システム障害対応のAIエージェント「IncidentTech」である。