Hugging Faceの画像編集モデル、ヌードの深層偽造を容易に生成—1,000件のプロンプト解析が示す実態

研究者らがHugging Faceで公開されている主要な画像編集モデルを検証したところ、同プラットフォーム上のモデルを使って容易に性的な深層偽造（ヌード画像）を生成できることが確認されました。合わせて1,000件の画像編集プロンプトを分析し、実際の利用者がどのような指示を与えているかを可視化しています。

今回の調査は「技術的には簡単に作れてしまう」点と、「実際のプロンプトにその傾向が現れている」点で重要です。プライバシー侵害や被害者の名誉毀損、違法コンテンツの拡散といったリスクが現実味を帯びる一方、モデル公開の開放性と利便性という利点との間でトレードオフが生じます。

AIプラットフォームや開発者に対しては、アクセス制御や出力フィルタ、合成画像の透かし（ウォーターマーク）やプロンプトモニタリングなど技術的・運用的な対策の検討が求められます。また、透明性（モデルや学習データの由来表示）や法規制との整合性確保、プラットフォームと規制当局・研究コミュニティの連携強化が示唆されます。今回の結果は、生成AIの公開と活用を巡る安全設計の必要性を改めて示しています。