研究：会話型AIは人間より「悪用可能な信頼」を築きやすい

研究者らは、人間1名と会話型AI「Claude」を比較する実験を行い、約1週間のテキストやり取りの結果、AIチャットボットの方が相手に対して「exploitable trust（悪用可能な信頼）」を形成する点でより効果的だったと報告しました。原文は結果を簡潔に伝えており、AIが短期間で信頼関係を築けることを示唆しています。

「exploitable trust」は、相手が悪意ある目的に利用され得るような信頼を指す概念であり、今回の結果は生成AIがフィッシングや詐欺、誤情報の拡散といった社会的リスクに利用される可能性を示しています。継続的なテキストのやり取りを通じて一貫した応答や個別対応が可能な点などが背景として考えられますが、原文自体は詳しいメカニズムやサンプル数などを示していません。

本件が示す業界への示唆は明確です。開発者やサービス提供者は、チャットボットの悪用を防ぐための検知・制限機能、利用時の明示的ラベリング、ユーザー教育、監査可能性の確保といった対策を検討する必要があります。また規制側も個人の信頼を狙った悪用リスクを評価に含めるべきで、今回の研究は追加の追試や透明な報告を促す材料になります。