Googleは4月2日（現地時間）、Gemini APIにおいて新たなサービス「Flex Inference」と「Priority Inference」を導入したと発表した。今回のアップデートにより、開発者はAPIの利用コストと信頼性を、用途に応じて一元的に調整可能となった。
「Flex Inference」はコストを重視し、レイテンシーに許容性のあるバックグラウンド処理向けに設計されている。価格はStandard APIの半額となり、従来のバッチ処理を使わず、同期的なAPIエンドポイントから利用できる。主な用途例としては、背景で動作するCRMの更新や大規模なリサーチシミュレーションなどが挙げられる。
一方、「Priority Inference」は、信頼性を最優先するサービス階層であり、重要なリアルタイムアプリケーションに適している。ピーク時にも高い信頼性を維持し、処理要求が上限を超えた場合は自動的にStandard階層で処理が継続される。主な用途例は、カスタマーサポートボットやライブコンテンツのモデレーションなどだ。
両サービス階層はAPIのサービスティアパラメータで指定でき、「GenerateContent」と「Interactions」APIの有料ティアから利用可能となっている。詳細な価格や利用法については、Gemini APIの公式ドキュメントで公開されている。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
