AI活用をビジネスの成果につなげるカギとは？ DatadogがAIエンジニアリングの現状をレポート

　Datadogは6月2日、企業における生成AIや自律型エージェントの導入・運用の実態を調査した「2026年版 AI Engineeringの現状レポート」の日本語版を公開し、それに伴う記者説明会をオンラインで開催した。説明会には同社 Director of Solutions Engineeringの守屋賢一氏と、Senior Developer Advocateの萩野たいじ氏が登壇し、Datadogユーザーの統計データから浮き彫りになったAIエンジニアリングの現状について解説を行った。

Datadog Japan合同会社 Director of Solution Engineer 守屋賢一氏

　まず、守屋氏が日本におけるAIエンジニアリングの現状について説明した。現在、日本市場における生成AIの導入率は55.2％に達しているものの、期待以上の高い効果を得ている企業の割合は日本では13％にとどまっている。これに対して、中国やドイツ、米国を含むグローバル平均では84％を超えており、日本企業は生成AIを活用して成果につなげるという点でまだ大きな伸びしろがある。つまり、国内企業における課題は「生成AIを導入する」という初期フェーズから、導入したAIをどのように管理し、効果を測定し、安全に拡張していくのかという本格的な運用フェーズへと移りつつある。

日本のAI導入は加速しているが、運用成熟度は限定的

　守屋氏は、AI活用の広がりとともに、単にモデルを利用するだけでなく、管理すべき対象が段階的に増える「多層的な構造」について指摘した。中心にある「モデル」を出発点として、その外側には用途に応じた複数モデルの使い分けや外部API連携に伴う「データのレイヤー」が存在し、機密情報やログ、プロンプトなど管理対象が急速に増加する。さらに最近では、複数ステップの処理を自動化する「エージェントのレイヤー」が増えたことで処理フローが複雑化し、最も外側にある「セキュリティとガバナンス」の統制が不可欠になっている。

AI活用の広がりによって管理すべき対象が増える

　これらが相互に影響し合った結果、コストの発生源の特定が困難になったり、問題発生時の原因追跡に時間がかかったりする課題が現れている。多くの企業では実証実験（PoC）や部門単位での利用にとどまり、全社的な運用ルールが未整備であるため、不要に高コストなモデルの利用による「コストの増加」や、業務組み込み時の「品質の低下」、現場主導の利用による「セキュリティリスクの拡大」、ルールが形骸化する「ガバナンスの不全」という4つのリスクに直面しやすい。

　守屋氏は、デモとしては動くものの本番環境では安定して運用できないという課題に対し、「AI活用は早く試すことから、安全に運用できる体制を構築することへとフェーズが移っている」と述べ、利用状況を可視化して統制の取れた本格運用へ移行することの重要性を強調した。

Datadog Japan合同会社 Senior Technical Advocate 萩野たいじ氏

　続いて登壇した萩野氏は、1000社を超えるDatadogのユーザーから収集したLLMテレメトリデータに基づいたレポートの詳細を解説。調査の結果、2025年3月から2026年3月の1年間で、企業のAI活用は単一モデルの前提からマルチモデルの前提へ大きく移行していることを説明した。

　具体的にはOpenAIが大きなシェアを維持する一方、GoogleのGeminiやAnthropicの採用が急速に拡大。さらに現在では70％以上の組織が3つ以上のモデルを利用し、6個以上のモデルを運用する企業も41％に達している。背景には軽量モデルを分類に使い、高性能モデルを高度な生成処理に使うといった適材適所の選択があるが、これは管理すべき対象が急速に増えることにつながる。

複数のAIモデルを使い分ける組織が増加

　また、LangChainやLangGraphに代表されるLLMフレームワークの採用率が、組織ベースで前年同月の9.1％から17.5％へとほぼ倍増しており、処理の高度化が進む一方で、内部処理のブラックボックス化によりレイテンシーの発生箇所の特定や不具合の調査が難しくなっている。

LLMフレームワークの採用は過去1年で倍増

　さらに、リクエストあたりのトークン使用量の中央値は、2058トークンから5251トークンへと2倍以上に増加しており、大規模なコンテキストは推論コストの増加や重要な情報の埋没を招くため、情報の構造化を行うコンテキストエンジニアリングへの投資が競争力になりつつある。

リクエスト当たりのトークン使用量は2倍以上に増加

　こうした状況を踏まえて萩野氏は、AIエンジニアリングに失敗する企業は運用の複雑さに直面して足が止まるのに対し、成功する企業はエンドツーエンドでの可視化や予防的・継続的に運用の改善に取り組んでいるとし、「可視化と制御を最初から運用基盤に組み込むことでスピードと統制は両立できる」と指摘した。

　なお、Datadogではデータ、インフラ、モデル、エージェントおよびアプリケーション、データおよびガバナンスといったAIスタック各レイヤーを横断的に可視化するソリューションを提供しており、トークンごとのコストやリクエストのトレース、セキュリティのリスクなどを一元管理できる体制が整うという。

　萩野氏はまとめとして、企業が次に取り組むべきことを紹介した。

　1つ目は「AIの利用状況、モデル、データ、コスト、パフォーマンスを可視化する」こと。どのモデルがどの業務やアプリケーションで使われているのか、どういったデータが利用されて、どの程度のコストやパフォーマンスが発生しているのかを把握しなければ、AIを適切に管理することはできない。

　2つ目が「AI活用が品質・効率・ビジネス成果につながっているかを測定する」こと。品質やコスト、UX、業務効率、リスク等の観点からAIがビジネス的な価値を生んでいるのかどうかを継続的に評価することが重要となる。

　3つ目は「セキュリティと統制を担保しながら、本番運用・全社展開へ移行する」こと。スピードと統制を対立するものと捉えるのではなく、可視化と運用管理によって両立させることがカギとなる。

　最後に萩野氏は、導入したAIをどれだけ継続的に管理して安全に拡張できるかがビジネスの成果につながっていくということを示し、説明会を締めくくった。