「AIフェイスモデル」募集、テレグラムで横行—顔を“商品”にする詐欺の温床に

WIREDの調査によると、テレグラム上の多数のチャンネルに「AIフェイスモデル」を募集する求人が掲載されており、応募者の多く（主に女性）が、被害者を金銭的にだますために利用されている可能性が指摘されています。募集広告は高頻度のビデオ通話などを謳うものもあり、人の顔や映像をコピーして偽アカウントや合成動画を作る活動に使われているとされています。
こうした動きは、生成技術の普及と匿名性の高いメッセージングプラットフォームが結びついた結果として生じており、被害者の信頼を利用する新たな詐欺手法を生んでいます。募集される側が事情をどこまで把握しているかは不明ですが、外見を提供すること自体が搾取や名誉毀損、犯罪に関わるリスクを伴います。
AI業界への示唆としては、合成メディアの出所証明（プロヴェナンス）やウォーターマーク、ディープフェイク検出技術の整備が急務であること、プラットフォーム側の監視と通報体制の強化、そして外見や個人データを扱う労働に対する法的保護の検討が求められます。規制と技術の両面で対策を講じなければ、生成AIの悪用が個人と社会の信頼をさらに損なう可能性があります。