Grokのサイトに著名女性の性的ディープフェイクが多数掲載とWIRED報道

米WIREDの調査によれば、Grokのウェブサイト上に「nudified（裸化）」と称される性的なディープフェイク画像・動画が数十点、公開またはホストされていることが確認されました。被写体には複数の著名人や、少なくとも1名の著名な米国政治家が含まれ、いずれも同意のない性的描写とされます。

今回の発見は、生成モデルが作る性的コンテンツの被害やプライバシー侵害の現実を改めて示しています。配信元での「ホスティング」は、コンテンツの監視・削除といったプラットフォーム責任の問題を浮き彫りにし、被害者の名誉・安全に直接的な影響を及ぼします。

AI業界への示唆としては、生成AIの出力管理や検出技術、利用規約・モデレーション体制の強化、合成メディアの出所を示す手法（透かしやプロビナンス）の導入が改めて求められる点が挙げられます。また、こうした事例は規制や企業ガバナンスを巡る議論を加速させる可能性があり、迅速な対応と透明性が業界全体の信頼維持につながるでしょう。