Anthropicは4月24日（現地時間）、「Claude」において選挙期間中の安全対策を強化した取り組みについて発表した。米国中間選挙や世界各地の主要な選挙に向け、AIによる正確かつ公平な情報提供の重要性を強調している。
政治的中立性の徹底に向けては、「Claude」の訓練やプロンプト設定で異なる政治的意見を同等に扱うよう設計している。さらにモデル評価手法やデータセットを公開し、外部の検証も受け付けている。Opus 4.7とSonnet 4.6は、政治的バランスに関する評価で、それぞれ95%、96%と高い評価を獲得した。
利用規約では選挙に関わる虚偽情報の拡散、選挙妨害などを厳しく禁止し、専用チームによる監視や自動検出システムで違反行為を抑止している。生成された応答が不正リクエストを拒否し、正当なリクエストには適切に対応できているかの検証も実施し、Opus 4.7とSonnet 4.6ではそれぞれ100%・99.8%の精度を記録した。
また、選挙関連の質問には信頼できる情報源へのバナー表示や、Web検索機能で最新の情報提供も強化。今後も運用監視やモデル改善を継続する方針を発表している。
- 関連リンク
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
