AWSは10月8日（現地時間）、Amazon Bedrock上のOpenAI GPT-6.1 SolでUltrafastモードが利用可能になったことを発表した。Ultrafastモードでは、速度が重視されるワークロードにおいて、より高速な推論を実行できる。
GPT-6.1 Sol Ultrafastは、レイテンシーの影響を受けやすいアプリケーションに使用できる。具体的には、リアルタイムのコーディングアシスタントやインタラクティブエージェント、高速で高品質な応答が求められる顧客向けエクスペリエンスなどを想定している。既存のAWSの制御機能を利用すれば、ワークロードの保護やアクセス管理、モデル呼び出しアクティビティの監査も行える。
Amazon Bedrockコンソール、またはサポートされているAmazon Bedrock APIから利用を開始できる。対応するAWSリージョンやエンドポイント、API、推論プロファイル、料金などは、Amazon Bedrockのドキュメントで確認できる。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営する開発者のための情報メディアです。日々の開発に取り組むエンジニアやテクノロジーを学びたい方に向けて、プログラミングやAI活用、開発ツール、エンジニアの学びとキャリアに関する記事をお届けしています。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
この記事は参考になりましたか？
この記事をシェア
