AI時代のオブザーバビリティ──生成AIの測定と、AIによる分析支援
──AIエージェントやLLMがシステムに組み込まれ、挙動が非決定的になっています。OpenTelemetryはどのような役割を果たしますか。
Ted:AIとオブザーバビリティには2つの側面があります。一つ目は「AIシステムの観測」です。AIもソフトウェアですから、エラーやレイテンシーがあります。OpenTelemetryには「Gen AI SIG」というワーキンググループがあり、LMのトークン数や処理時間などを測定するための標準的な定義(セマンティックコンベンション)の策定を進めています。ただし、「なぜモデルがその回答をしたのか」という思考プロセスのブラックボックスを解明するのは、まだ別の計算機科学の領域の話になります。
二つ目は「オブザーバビリティのためのAI活用」です。私はこちらに大きな可能性を感じています。オブザーバビリティとは、システムが何をしているかを説明することです。Grafanaでは「Grafana Assistant」という機能を提供していますが、これまでグラフなどの可視化に頼ってきた領域を、これらのツールでテキストで説明できるようになるのは非常に強力です。
AIをアシスタントとして使い、「仮説を与えて調査を依頼し、要約レポートを受け取る」場面を想像してください。アシスタントが「ログを確認したところ、このような相関関係が見つかりました」と回答してくれるような対話型ワークフローは、将来的にオブザーバビリティの主要な手法になるかもしれません。
OpenTelemetryはキャズムを超えて「メインストリーム」へ
──OpenTelemetryの今後のロードマップについて教えてください。
Ted:OpenTelemetryは、アーリーアダプター層からメインストリーム層への導入が進む「キャズムを超える」段階にあると考えています。これは、メインストリームのユーザーが気にする課題、具体的には「コスト」「使いやすさ」「安定性」に焦点を当てることを意味します。
「使いやすさ」については、Linux向けのインジェクターや、GoやRust向けのeBPFベースのソリューション(Odigosなど)により、コード変更なしでインストールできる仕組みを進めています。「安定性」については、バージョン1.0(安定版)への移行を進めています。もし破壊的な変更が必要な場合はバージョン2.0をリリースし、両方をサポートすることでユーザーが安心して使えるようにしていきます。
──最後に、日本の読者に向けたメッセージをお願いします。
Ted:ぜひOpenTelemetryを使ってみてください。また、日本やアジア太平洋地域からのコントリビューションをもっと増やしたいと強く願っています。時差や言語の壁はありますが、Kubernetesの成功モデルに倣いたいと考えています。もし貢献に興味があれば、ぜひ私たちに連絡してください。
