Anthropic、AIモデルの第三者評価を開始

　Anthropicは10月15日（現地時間）、フロンティアAIモデルの評価を行う非営利団体METRのチームに対し、従業員と同等のアクセス権の付与を開始したと発表した。METRは同社のモデルや安全対策に関するリスク評価の結果を公開する。

　METRの従業員6名には、会社支給のハードウェアやオフィススペースに加え、同社のリスク評価チームとおおむね同等の社内ツール・システムへのアクセスを提供した。顧客データやモデルアーキテクチャに関する情報など、明確に定義された一部のカテゴリーを除き、同社の社員は同僚と同様にMETRのチームと情報を共有する。同社は公開を拒否できないが、事前に定めたカテゴリーの情報については削除を求めることができる。METRは削除の妥当性について公に見解を示せる。

　同社は評価者向けに3段階のアクセス階層を整備している。第1段階は範囲を絞った調査で、公開には同社の承認が必要となる。第2段階は承認なしで公開でき、より多くの情報にアクセスできる。第3段階がMETRとの取り決めにあたる。

　このほか、SecureBioが同社の8月のリスクレポートのうち化学・生物兵器の章をレビューしている。AccentureおよびFacultyとは、モデルの評価やレッドチーミング、アライメント評価などを含むパートナーシップに向けて取り組んでいる。Hugging Faceなど複数の組織とも初期段階の協議を進めている。