誤認逮捕が示した米国古参の警察用顔認識ツールの問題

米フロリダ州フォートマイヤーズの男性が児童誘拐事件で逮捕された件を巡り、米市民自由連合（ACLU）が同州の2つの警察署を提訴した。ACLUは、逮捕が「米国で最も古くから使われてきた警察向け顔認識ツールの一つ」による一致を根拠に行われたが、その照合は誤りで、捜査側が不確かな一致をほぼ確実な身元確認として扱ったと主張している。

本件は、法執行機関が自動顔認識の出力をどのように運用しているかを問うものだ。アルゴリズムの示す「マッチ」をそのまま事実認定に用いる運用が続けば、誤認逮捕や人権侵害のリスクがあることを改めて浮き彫りにしている。特に長年稼働している古いシステムは、現在の評価基準や精度検証が不十分な可能性がある。

AI業界への示唆は明確で、顔認識技術の導入には独立した検証、透明性の確保、運用ルールや人間による最終判断の明文化が不可欠だ。本件は技術提供者、警察組織、規制当局それぞれに対し、導入前後の評価責任と説明責任を求める事例となる可能性がある。