Flockの警察向け新AI、コード解析で判明――ナンバープレート追跡を超える機能

監視カメラで知られるFlockの次世代AIシステムについて、WIREDがコードを再構築して分析しました。Flockは既にカメラ設置で物議を醸していましたが、今回の解析で同社の新システムが「ナンバープレート追跡」を超える能力を備えており、一部の警察ですでに運用されていることが確認されました。

この事実は重要です。公開されている説明や販売資料だけでは把握しにくい実装の詳細が、コード解析によって明らかになったため、技術の実際の用途や監督のあり方に疑問が生じます。捜査支援の範囲が拡大している可能性は、プライバシーや市民権の観点からも重大な意味を持ちます。

AI業界への示唆としては、監視用途のAIが迅速に現場へ投入される状況で、透明性と独立した検証の重要性が高まっている点が挙げられます。企業は製品の機能とリスクを明確に説明する責務があり、規制当局や利用者側も技術的なレビューを求める必要がありそうです。ジャーナリズムや研究によるコード解析が、技術の実態把握に有効であることも示唆されます。