米New Relicは、生成AIアプリケーションの開発、導入、監視の複雑性とコストを削減すべく、New Relic AI Monitoringによる「DeepSeek」を監視するためのオブザーバビリティソリューションを、2月3日(現地時間)に発表した。
New Relic AI Monitoringは、DeepSeekおよびMicrosoft Azure AI Foundry上のDeepSeekをサポートし、簡単なセットアップでデータセキュリティの強化が可能になり、DeepSeekで構築されたアプリケーションのAIスタック全体にわたる、幅広い可視性が得られる。
同ソリューションによって、DeepSeekのオープンソースモデルによるコスト効率と推論能力の向上が補完され、AIをより身近なものにするとともに、AIイノベーションを加速する。
また、データプライバシーのニーズに応えつつ、AIスタックの広範なビューをスループット、レイテンシ、コストに関する主要メトリクスとともに提供するほか、サービスやモデル間のリクエストフローを追跡し、AIアプリの内部動作が理解できるようになる。
DeepSeekモデルの包括的な監視を提供し、AIインテグレーションを簡素化する強力なエコシステムを構築することで、とりわけ市場の飽和とコストの高騰にともなうアプリケーションに合わせたAIモデルの選択と最適化において、企業が直面する課題の増大への対処を可能にする。
New Relic AI Monitoringのメリットは以下の通り。
- 信頼性の確保と品質向上:New Relicを使用した、DeepSeekを活用するAIアプリのパフォーマンス監視による、問題の迅速な特定および解決
- AIコストの最適化:New Relicとコスト効率の高いDeepSeekの活用による、トークンの使用状況把握を通じたAI開発コストの削減
- 積極的なモデルの切り替え:New Relic独自のモデル比較機能による、モデル切り替え時のアプリのパフォーマンスやトークン使用量に対する影響の把握
- イノベーションの加速:New Relic AI MonitoringとDeepSeekのオープンモデルを使用した、より迅速なイノベーションとAI導入の推進
この記事は参考になりましたか?
- この記事の著者
-
CodeZine編集部(コードジンヘンシュウブ)
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です