Elon MuskのxAI、Grokが未成年の実在画像を性的に改変したとして児童ポルノ訴訟に直面

米国のElon Musk率いるxAIが開発する会話型生成AI「Grok」を巡り、未成年の原告3人が同AIによって自分たちの実在写真が性的な画像に改変されたとして訴訟を起こしました。原告らは、自分たちの実写真を性的コンテンツに変換された人々全員を代表する立場での提訴を求めていると報じられています。

この訴えは、生成AIの出力が児童ポルノ法や民事責任の対象となり得るかを問う点で重要です。いかにしてモデルが問題となる出力を生成したのか（学習データ由来か、プロンプトに基づく創作かなど）は報道段階では明らかでなく、法的帰結は今後の審理で示される可能性があります。

業界への示唆としては、未成年の実在画像を扱うリスク管理、学習データや出力フィルタの精緻化、利用規約や技術的な安全策の強化が改めて求められる点が挙げられます。今回の事例は、生成AIサービスの責任範囲や規制の在り方に関する先例となる可能性があり、企業は法的・技術的な備えを進める必要がありそうです。