Mozilla Foundationの支援を受けてAI関連の開発を進めるMozilla.aiは、7月6日、オープンソースのLLM制御プラットフォーム「Otari」をリリースした。
LLMを活用したアプリケーションを開発する開発者は、複数のLLMプロバイダや膨大なAPIキー、ルーティング、予算管理など個別に対応する必要があった。
Otariは、こうした課題を解決するため、LLMインフラストラクチャ向けの単一の制御プレーンを提供し、開発者やエンジニアリングチームが複数のLLMプロバイダーにわたるルーティング、予算、ガバナンス、デプロイメント、信頼性を管理できるよう支援する。
予算機能や使用状況の可視化機能、自動の予算執行機能が組み込まれているため、LLMの費用を一つのプラットフォームから管理できる。また、一元化されたAPIキーやワークスペース、アクセス制御を通じてガバナンスを管理できるようになる。
Otariは、LLMを導入する開発者や組織が、独自にインフラストラクチャを構築し、繰り返し同じ課題に直面するという問題を解消し、AIアプリケーション開発に集中できるようにする。
Otariは現在、otari.aiやGitHubから利用開始できる。詳細はブログポストを参照のこと。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営する開発者のための情報メディアです。日々の開発に取り組むエンジニアやテクノロジーを学びたい方に向けて、プログラミングやAI活用、開発ツール、エンジニアの学びとキャリアに関する記事をお届けしています。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか？
この記事をシェア
