生成AIサービスの「運用」ってどうしてる？ 「Langfuse」国内パートナーが解説するLLMOps
【17-A-8】生成AIの開発・運用の最前線、Langfuseで廻すLLMOps
SaaS版とセルフホスト版、何が違う？
Langfuseのプロダクトラインナップは、SaaS版とセルフホスト版の主に2つ。
セルフホスト版には、OSSとエンタープライズ向けの2つがあり、嘉門氏いわく「OSS版もかなり機能が充実しているので、多くのケースで活用できる」という。
エンタープライズ向けのバージョンには、OSS版の機能に加えて、高度な権限の設定や監査録の取得といった機能が備わっている。「エンタープライズ企業で本格的に利用したい方にご検討いただきたい」と嘉門氏。
セルフホスト版をインストールするにあたって、もっともシンプルなのはVMやPCで実⾏可能なDocker composeを利用する方法だ。
最後に嘉門氏は、ガオが提供しているLangfuseの導⼊・運⽤⽀援サービスを紹介した。同社は「Langfuse Booster」と「LLM OpsCare」という2つのサービスを提供している。
「トレーニングを通して、コードへの適用の仕方などをご紹介しています。Langfuseのセットアップだけでなく、その後のLLMの運用プログラムやテストも全部お任せいただけます。生成AIアプリケーションの提供には、LLMOpsは必須。Langfuseを使った管理をぜひご検討いただければと思います」
生成AIアプリケーションの継続的な精度改善と安定運用を実現
LLMOpsの実現には、開発プロセスを可視化・評価し、課題を迅速に特定する仕組みが不可欠です。オープンソースの観測プラットフォームLangfuseは、LLMアプリケーションのトレーシング、デバッグ、評価を可能にし、その重要な基盤となります。
GAOでは、Langfuseの導入支援から、モデルの性能を最大化するためのLLMOpsコンサルティングまで、専門チームが包括的にサポートします。LLM活用の高度化や、ビジネス価値の向上をご検討の際は、お気軽にご相談ください。
この記事は参考になりましたか？
既に会員の方はを行ってください。
- Developers Summit 2025 Summer セッションレポート連載記事一覧
- この記事の著者
-
岡田 果子（オカダ カコ）
IT系編集者、ライター。趣味・実用書の編集を経てWebメディアへ。その後キャリアインタビューなどのライティング業務を開始。執筆可能ジャンルは、開発手法・組織、プロダクト作り、教育ICT、その他ビジネス。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
-
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営する開発者のための情報メディアです。日々の開発に取り組むエンジニアやテクノロジーを学びたい方に向けて、プログラミングやAI活用、開発ツール、エンジニアの学びとキャリアに関する記事をお届けしています。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
提供：ガオ株式会社
【AD】本記事の内容は記事掲載開始時点のものです 企画・制作 株式会社翔泳社
この記事は参考になりましたか？
この記事をシェア
