Amazonは8月17日（現地時間）、Amazon BedrockにおいてOpenAI GPT-5.6モデル（Sol、Terra、Luna）のサポート拡張を発表した。これにより、bedrock-runtimeエンドポイント上でResponses API、Converse API、Chat Completions APIが利用可能となった。
また、クロスリージョン推論のサポートも追加された。クロスリージョン推論では、ユーザーが複数のAWSリージョン間のキャパシティを個別管理する必要がなくなり、推論リクエストは自動的に複数リージョンへルーティングされる。これにより、需要増加時でもスループットが高まり、運用負担が軽減される。
クロスリージョン推論は「Global」と「Geo」に分かれている。Geoクロスリージョン推論では、事前定義された地理的範囲内でリクエストが処理される仕組みで、今回新たに米国Geo（US CRIS）が加わった。これにより、データ処理を指定地域内で維持しながらスケールが可能となる。一方、Globalクロスリージョン推論は、利用可能な商用AWSリージョン全体でリクエストを処理し、Bedrockのキャパシティを最大限広域で利用できる。特にトークンあたりの料金はGlobal推論が最も低く設定されており、コスト削減につながる。
APIの拡張により、OpenAIネイティブAPIもbedrock-runtime上で利用可能となり、既存アカウントの制御設定も維持される。モデル利用状況はBedrockの呼び出しログに記録され、Amazon S3やAmazon CloudWatch Logsへの配信も可能である。また、CloudWatchメトリクスやAWS Cost Explorer、Cost and Usage Reportを用いて詳細な利用分析やコスト管理ができる。
OpenAIモデル向けクロスリージョン推論は、BedrockでOpenAIモデルが提供されている全AWSリージョンで利用できる。利用開始時はユーザーガイドのモデルカード参照が推奨される。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営する開発者のための情報メディアです。日々の開発に取り組むエンジニアやテクノロジーを学びたい方に向けて、プログラミングやAI活用、開発ツール、エンジニアの学びとキャリアに関する記事をお届けしています。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか？
この記事をシェア
