Google、AIアプリによる同意のない性的コンテンツ生成を防ぐベストプラクティスを紹介

　Googleは、AIアプリによる同意のない性的コンテンツ生成を防ぐための同社の戦略と、開発者向けのベストプラクティスについてブログを公開した。

　AI機能は、同意のない性的画像（NCII）の生成などといった新たな安全上の課題をもたらしている。Google Playのポリシーでは、同意のない性的コンテンツの助長、作成、配布が禁止されている。Googleが安全なストア運営のために、どのようにしてこのポリシーを徹底しているのかAndroid Developers Blogで紹介された。

　Google Playストアでは「多層防御戦略」（multi-layered defense strategy）が導入されている。アプリのライフサイクル全体にわたる安全対策や、悪質なユーザーの収益化をブロックする仕組み、業界との連携といった多角的な対策によってプラットフォームの保護に努めているという。

　ブログでは、Googleの性的コンテンツポリシーおよびAI生成コンテンツポリシーに準拠した、アプリの設計とテストのベストプラクティスも紹介されている。

　Google Playでは、生成型AIアプリケーションを対象として審査要件が強化されている。審査の承認をスムーズにするためには、テストアカウントが有料向けや地域制限にかかわらずすべてのAI機能に完全にアクセスできることを確認し、安全性に関するプロンプトやテストしたエッジケースに関するドキュメントを用意しておくとよい。

　また、業界標準のフレームワークを活用した、安全性テストのためのベストプラクティスも紹介。モデルに標準搭載されている安全フィルターに頼るだけでなく、カスタマイズ可能な入力・出力モデレーション制御を統合することで、アプリのセキュリティを確保すること、巧妙にセキュリティ対策を回避した悪意のあるプロンプトに対してアプリを積極的にテストすることなどが挙げられている。

　Googleは、これらのAndroidコアプラクティスを導入することを推奨し、ポリシー違反行為を発見した場合はGoogleチームに報告するように促している。詳細はブログポストを参照のこと。