質問に「答える」から「行動する」エージェントへ
駒澤氏は「Ask Red Hatは開発当初から、単に『答える』だけではなく、『行動する』AIにしようというビジョンを掲げていました」と話す。これは顧客からの質問に回答するだけではなく、システムと連携してタスクを実行するAIエージェントを目指すことを意味する。
特徴的な機能には自律的なルート誘導（ルーティング）がある。これは顧客からの意図に応じてセルフサービスを促すのか、別の専門AIエージェントを呼び出すのか、あるいは人間のサポートにつなげるのかといった意思決定をしたうえで、顧客を適切なルートに誘導する。
加えてサポートではナレッジが何よりも重要だ。学習と改善を継続することで、AIエージェントが自ら賢くなり続けるサイクルが備わっている。こうした仕組みを通じて、待ち時間を限りなくゼロにして、サポートケース発生を未然に防ぐなど、人間だけでは成し遂げられなかった圧倒的なスピードとコスト回避でROIの最大化を目指す。
本番運用開始は2025年5月から。約半年後となる同年末時点で、5万以上のユニークユーザーが利用し、45万件以上ものメッセージに対応した。サポートエンジニアへの負荷を軽減しながらも、顧客の解決時間を短縮するなど、レッドハットを導入した本番環境を強力に支える仕組みとなっている。
具体的に「Ask Red Hat」はどのように動いているのか。推論エンジンは、オープンウェイトで自社内に閉じた意思決定を行うためにIBM Graniteアーキテクチャ（IBM Granite-3.x 8B-Instruct）を採用している。駒澤氏は採用理由として、RAG（検索拡張生成）の精度が高いことと、Apache 2.0で商用利用できることの2点を挙げる。現状ではさまざまなモデルをABテストで比較しながら運用しているものの、将来的にはレスポンス最適化と軽量化を狙い、Granite-4.x Smallへ移行する計画で開発を進めている。
もう1つの採用理由となるのがGranite Guardian、ガードレールに特化したモデルだ。単一のLLMでまかなうのではなく、ガードレールはガードレールとして別に管理するアーキテクチャにしている。これによりジェイルブレイク（悪意あるプロンプト）を防御し、AIを本来のタスクに専念させる。RAGパイプライン最適化によりMRR（検索精度指標）が45％向上、常に製品バージョンに適合したドキュメントを正確抽出している。加えて「BYOR（Bring your own risk）」として、プラグインで独自のリスク管理を拡張する機能もある。こうした仕組みで安全性やセキュリティを担保している。
