開発者エクスペリエンスの向上
Amazon Bedrockは、生成系AIアプリケーション開発者の開発作業全体の生産性を向上させる機能を提供しています。
基盤モデルへのアクセス
Amazon Bedrockは、AI21 Labs、Anthropic、Cohere、Meta、Stability AI、およびAmazonのような主要なAI企業の高性能な基盤モデルに対して、マネジメントコンソールや、AWS SDK、LangChainなどのオープンソースフレームワークを通じてアクセスする機能を提供しています。
基盤モデルは従来の機械学習モデルに比べてある程度の汎用性を持っていますが、すべてのユースケースで万能というわけではありません。
それぞれ得意・不得意があり、複数の選択肢から自分たちに最適なモデルを選択をしていくことが必要になります。
Amazon Bedrockによって、複数のモデルに対して簡単にアクセスし、チューニング・検証をすることが可能になり、最適なモデルを簡単に見つけることができるようになります。
例えば、以下のようにCohereのCommandモデルを使用した固有表現抽出（テキスト内の名前、組織名、専門領域などの固有の情報を識別）の例をマネジメントコンソールから確認することができます。
画面中央は、プロンプトへの入力とレスポンス、また、このサンプルを実行するAPIリクエストを示しています。
画面右側の推論用パラメータのサンプル値も確認することができます。
基盤モデルの検証・カスタマイズ
また、「Open in Playground」を選択すると、コンソール上で、モデルへのプロンプトエンジニアリング、推論パラメータの調整、ユースケースへの適合度をインタラクティブに実施することができます。
以下、Amazon Bedrockの公式ページの製品紹介の文章から製品名を抽出するようにプロンプトに指示を与えました。問題設定が簡単かもしれませんが、期待通り「Amazon Bedrock」という回答が返ってきました。
ここでは、CohereのCommand モデルを使用した固有表現抽出を例にしましたが、画面上部のセレクトボックスからその他のモデルに切り替えることも可能です。
また、画面右側の推論パラメータを調整することで、モデルからのアウトプットを調整することができます。
例えば、Temperature は、言語モデルがテキスト生成時のランダム性を制御するためのパラメータの1つです。高いほど、モデルの生成がランダムで多様になり、同じ質問をしても違う回答を返すようになります。
さらに、自社データを使ってモデルをカスタマイズ（Fine-Tuning）することもできます。コンソールからAmazon S3に保存されているトレーニングデータと検証データセットを選択し、必要に応じてハイパーパラメータを調整するだけで、自分たちのユースケースに特化したモデルを構築することができます。
最適なモデルを構築できたら、APIリクエストのコードもワンクリックで作成することができます。
あとは自分たちのアプリケーションから、作成したAPIリクエストを呼ぶだけで簡単に生成AIアプリケーションを構築することができます。
選択したモデル、カスタマイズの有無に関わらず、同一のAPIインターフェースを利用できるため、モデルの変更に対しても最小限のコード変更で済みます。
