サンフランシスコ市、AppleとGoogleにAI「裸化(Nudify)」系アプリ13本の削除を要求

サンフランシスコ市の市務官室は今週、AppleとGoogleに対して停止命令を求める書簡を送り、計13本の「顔入れ替え（face-swap）」系アプリの配布停止とプラットフォームによる収益化の停止を要求しました。これらは報告によれば女性や少女を主な標的にしているとされ、市側はプラットフォームが有害な用途から利益を得ている点を問題視しています。

今回の措置は、いわゆる「nudify」機能を含む生成AIベースの画像加工ツールが引き起こすプライバシー侵害・性被害の懸念を自治体レベルで具体的に追及した点で重要です。アプリ審査やコンテンツ責任の所在、収益化ポリシーの適用範囲が改めて問われる事例となります。AppleやGoogleがどのように対応するかが今後の実効的な抑止策の有無を左右します。

AI業界への示唆としては、プラットフォーム側のモデレーション強化、開発者の審査や利用規約の厳格化、生成物の出所・同意管理といった運用面の見直しが求められる点が挙げられます。一方で、具体的な法的結論や削除の実行は未確定であり、今後の交渉や裁判で先例が形成されるか注目されます。