最も危険なAIハッキングでも人間の関与が鍵に

セキュリティ研究者のJames Kettle氏が、AIのハッキング能力の限界を探る実験を行い、AIと人間の専門知識を組み合わせることで非常に効果的になるケースを確認したと報告しています。Kettle氏はAI単体の自律的攻撃だけでなく、人間による指示や調整を伴う「ヒューマン・イン・ザ・ループ」型の手法で攻撃力が増す点を示したとされています。

この観察は、攻撃者がAIを道具として利用することで試行回数や速度、スケールを高め得る一方、依然として熟練した人的判断や微調整が重要であることを示唆します。したがって、現実的な脅威モデルは完全自律だけでなく、人間とAIの協調を前提に見直す必要があります。

AI開発者や企業、政策担当者にとっての示唆は明確です。設計段階でのガードレール強化や、AIを悪用した攻撃を想定したレッドチーミング、侵害検知・対応の整備が優先課題になります。また規制や責任分担の議論も、人間＋AIの脅威に対応できる形で進めることが求められます。