10代が生成AIで教師を中傷する“スランダーページ”を拡散—TikTok・Instagramで教員を著名人になぞらえる投稿が拡散

米国の学生運営とされるTikTokやInstagramの人気アカウントで、生成AIを使って学校教職員を風刺・中傷するミームや「スランダーページ」が拡散しています。報道によれば、一部の投稿は教員をジェフリー・エプスタインやベンヤミン・ネタニヤフと比較する画像・文言を用い、閲覧や共有が急速に広がっているとされています。

今回の事例は、生成AIによる画像・文言の簡便な生成が個人の名誉や安全に直結するリスクを浮き彫りにしました。被害者の特定や精神的被害、学校側の処分やプラットフォームの対応が問題となりやすく、風刺と誹謗中傷の境界があいまいになる点も指摘されています。

AI業界にとっては、こうした悪用事例がコンテンツ検出・モデレーション技術、生成物の出所証明（ウォーターマーク等）、利用規約と執行の強化といった課題を再確認させます。プラットフォーム、教育機関、開発者が協調して対策を進める必要性が示唆される事案です。