OpenAI、カナダ容疑者のチャット巡り警察通報を内部協議

報道によれば、カナダの容疑者ジェシー・ヴァン・ルーツェラーによるチャットが、ChatGPTの不正利用を監視するツールで銃暴力の記述としてフラグ付けされた後、OpenAI内部で警察に通報すべきかどうかをめぐって議論が交わされたという。ツール自体は問題の兆候を検出したが、検出後に取るべき具体的対応については即断できない点があったとされる。

今回の事案は、生成AIサービスが潜在的な危険を識別する能力と、識別後の対応判断がいかに難しいかを示している。通報・情報共有の有無やタイミングは、利用者のプライバシー保護、法的義務、現場の安全確保など複数の要素を勘案する必要があり、単に自動検出できるだけでは解決しない問題が残る。

AI業界への示唆としては、検知システムと人間の判断を組み合わせた明確なエスカレーション基準、法執行機関との連携ルール、透明性を高める報告体制の整備が求められる点が挙げられる。今後、同様事案に関する企業の対応方針や規制の枠組みが注目されるだろう。