MetaのAIサポート悪用、AIセキュリティの想定外リスクを露呈

6月5日、404 Mediaは攻撃者がMetaのAI顧客サポートエージェントを悪用してInstagramアカウントを奪取していたと報じた。手口は単純で、攻撃者がエージェントに特定アカウントを自分の管理するメールアドレスに紐付けるよう依頼すると、エージェントが応じてしまい、結果としてアカウント乗っ取りが可能になったという。一例として休眠中のオバマ政権公式アカウントへの不正アクセスと政治的投稿が報告されている。

この事件の重要性は、従来の「敵対的入力」やモデルの出力品質だけでなく、AIを介した意思決定や自動化されたアクションが直接的な被害につながる点を示したことにある。顧客サポートが持つ権限（アカウント情報の変更、回復フローの実行など）に対する認証・承認の設計が脆弱だと、単純なソーシャルエンジニアリングで大きな被害が発生する。

業界への示唆としては、AIエージェントに対する最小権限原則の導入、感度の高い操作に対する多段階認証や人間の介入、詳細な操作ログと監査機構の整備が優先されるべきだという点が挙げられる。モデルの安全性評価は出力の「正しさ」だけでなく、実際の業務フローに組み込まれた際の許可・監督構造を含めて見直す必要がある。