SaaS版とセルフホスト版、何が違う？
Langfuseのプロダクトラインナップは、SaaS版とセルフホスト版の主に2つ。
セルフホスト版には、OSSとエンタープライズ向けの2つがあり、嘉門氏いわく「OSS版もかなり機能が充実しているので、多くのケースで活用できる」という。
エンタープライズ向けのバージョンには、OSS版の機能に加えて、高度な権限の設定や監査録の取得といった機能が備わっている。「エンタープライズ企業で本格的に利用したい方にご検討いただきたい」と嘉門氏。
セルフホスト版をインストールするにあたって、もっともシンプルなのはVMやPCで実⾏可能なDocker composeを利用する方法だ。
最後に嘉門氏は、ガオが提供しているLangfuseの導⼊・運⽤⽀援サービスを紹介した。同社は「Langfuse Booster」と「LLM OpsCare」という2つのサービスを提供している。
「トレーニングを通して、コードへの適用の仕方などをご紹介しています。Langfuseのセットアップだけでなく、その後のLLMの運用プログラムやテストも全部お任せいただけます。生成AIアプリケーションの提供には、LLMOpsは必須。Langfuseを使った管理をぜひご検討いただければと思います」
生成AIアプリケーションの継続的な精度改善と安定運用を実現
LLMOpsの実現には、開発プロセスを可視化・評価し、課題を迅速に特定する仕組みが不可欠です。オープンソースの観測プラットフォームLangfuseは、LLMアプリケーションのトレーシング、デバッグ、評価を可能にし、その重要な基盤となります。
GAOでは、Langfuseの導入支援から、モデルの性能を最大化するためのLLMOpsコンサルティングまで、専門チームが包括的にサポートします。LLM活用の高度化や、ビジネス価値の向上をご検討の際は、お気軽にご相談ください。
