New Relic、OpenAIのGPTと連携したアプリのモニタリングができる「OpenAI Observability」提供開始

　New Relicは、エンジニアリングチームがOpenAIが提供するGPTシリーズのAPIで構築されたアプリケーションを監視できるようになる、MLOps向けクイックスタートカタログ「OpenAI Observability（OpenAIオブザーバビリティ）」を3月29日に提供開始した。追加ライセンス購入の必要はなく、簡単な手順で利用可能。

　「OpenAI Observability」によりOpenAIの生データを取り込めるようになり、企業がOpenAIベースのChatGPTなどのAI技術の力を活用し、コストへの配慮をバランスよく行いながらイノベーションと事業目標の達成を加速させることができるようになった。また、New Relicに統合できるデータの種類が増え、より多くの開発者にとっての利便性が向上する。

　New Relicアカウントに登録するとNew Relicインスタントオブザーバビリティで「OpenAIオブザーバビリティ」を展開でき、機能を利用できる。

　「OpenAIオブザーバビリティ」の特徴は以下の通り。

• 無料で利用可能：New Relicインスタントオブザーバビリティに含まれており、New Relicのフルプラットフォームユーザーであれば追加費用なしで利用可能。
• 容易なインストール：数行のコード追加で、monitorモジュールをnr openai_monitorライブラリからインポートし、GPTのさまざまな主要パフォーマンスメトリクスを表示するダッシュボードを自動的に作成することができる。
• コストの監視：GPT使用に関するリアルタイムでのコスト把握が可能。
• パフォーマンスの最適化：平均応答時間やその他GPTリクエスト関連の主要パフォーマンスメトリクスに関するインサイトを可視化することで、エンジニアが使用状況を最適化し、最良のレスポンスタイムを実現できるようになる。
• プロンプトとレスポンスの分析：GPTの使用、スピード、有効性に関する有意義な情報を提供し、エンジニアリングチームがMLモデルでよりよい結果を得られるよう導く。