AWS、「Amazon Bedrock」のガードレールに幻覚を検出し、カスタム／サードパーティFMによるアプリを保護する2つの新機能を追加

　米Amazon Web Servicesは、「Amazon Bedrock」においてアプリケーション要件と責任あるAIポリシーに基づいて、セーフガードを実装できるガードレールに、2つの新機能を追加したことを、7月10日（現地時間）に発表した。

　今回、追加された新機能の1つである、コンテキストグラウンディングチェックは、参照ソースとユーザークエリに基づいてモデル応答の幻覚を検出するための機能で、エンタープライズデータに基づかない、またはユーザーのクエリに無関係のモデル応答における幻覚の検出を可能にする、新たなセーフガード。コンテキストグラウンディングチェックを使用することで、RAG、要約、情報抽出といったユースケースにおける応答の品質を向上できる。

　具体的には、Amazon Bedrockのナレッジベースでコンテキストグラウンディングチェックを使用して、エンタープライズデータに基づかない不正確な応答をフィルタリングすることによって、信頼に足るRAGアプリケーションのデプロイが可能になる。エンタープライズデータソースから取得された結果は、コンテキストグラウンディングチェックポリシーにてモデル応答を検証するための、参照ソースとして用いられる。

　コンテキストグラウンディングチェックには、グラウンディングするモデル応答の最小信頼スコアを表すグラウンディングしきい値を提供することによって有効化できるGroundingと、モデル応答がユーザーのクエリに関連するための最小信頼スコアを表す関連性しきい値に基づくRelevanceという、2つのフィルタリングパラメータを備えている。GroundingスコアとRelevanceスコアのしきい値を高くすると、より多くの応答がブロックされる。

　もう1つの新機能であるApplyGuardrailは、設定されたセーフガードに対してすべてのユーザー入力とモデル応答を評価するための新たなAPIサポートであり、基盤となるインフラストラクチャに関係なく、セルフマネージド（カスタム）またはサードパーティの基盤モデル（FM）を使用して構築されたすべての生成AIアプリケーションに、標準化による一貫したセーフガードの適用を可能にする。

　具体的には、Amazon Bedrockのガードレールを使用することで、Amazon Bedrockで利用できるFM、Amazon SageMakerなど他のサービスで利用可能なFM、Amazon Elastic Compute Cloud（Amazon EC2）といったインフラストラクチャ、オンプレミスのデプロイメント、Amazon Bedrock以外のサードパーティFMの入力プロンプトとモデル応答に、同じセーフガードを適用できるようになった。

　さらに、ApplyGuardrail APIを使用すれば、生成AIアプリケーションのさまざまな段階における、ユーザー入力とモデル応答の個別での評価が可能になり、アプリケーション開発における柔軟性を高められる。具体的には、RAGアプリケーションにおいてナレッジベースで検索を実行する前に、ガードレールを使って有害なユーザー入力を評価およびフィルタできる。その後、FMからの取得（検索）と生成ステップの完了後に、出力の個別での評価が可能になる。

　今回追加された2つの新機能は、Amazon Bedrockのガードレールを利用できる、すべてのAWSリージョンにて使えるようになっている。