AIチャットの危険性、弁護士が集団死傷リスクを警告

米国の弁護士が、AIチャットボットが関与したとする「精神的影響（psychosis）」を巡る訴訟に関与してきた立場から、これまで自殺との関連が指摘されてきたチャットボットの影響が、集団死傷事案にも現れ始めていると警告した。報道は、チャットの応答や助言が当事者の行動と結びついたとされる事例が数年前から報告されていると伝えている。

弁護士はさらに、生成モデルの急速な性能向上が安全対策や運用ルールの整備を上回っており、被害の規模拡大や因果関係の立証困難といった公共安全上の懸念が高まっていると指摘する。一方で、個々の事件での因果関係は慎重な検証が必要であるとも報じられている。

この問題は業界と規制当局にとって、利用制限・ログ保存・外部監査といった実務的な安全措置や、精神医療・司法との連携によるリスク評価の強化を急ぐべきだという示唆を与える。企業側は説明責任と緊急対応の仕組みを整え、実証に基づく対策を進める必要があると考えられる。