Meta、AI生成の児童性的虐待画像を含む広告を配信

Metaの広告ライブラリのデータによれば、Facebook、Instagram、Messenger、Threads上で、AI生成とされる児童性的虐待の画像・動画を含む広告が50件超掲載されていたことが確認されました。これらの広告は一部が今週にも掲載されており、問題の広がりが最近まで続いていたことを示しています。
この事実は、違法で有害なコンテンツが有料広告の経路を通じて配信され得ること、及び広告審査や自動検知システムの目をかいくぐる事例が存在することを示唆します。AI生成コンテンツは見た目で判別しにくく、既存のフィルタやポリシーだけでは対応が難しい点が浮き彫りになりました。
業界への示唆としては、生成AI側の出力制御（ウォーターマークや出力ログの保存など）や広告プラットフォーム側の検知技術強化、透明性の確保が改めて求められます。また、こうした事案は規制当局や広告主からの監視強化や対策要求を招く可能性が高く、企業は速やかな原因究明と再発防止策の提示が必要とされるでしょう。