チャットボットは「私」と言うべきでないのか――MITのタークル教授が警鐘

MITの教授シェリー・タークル氏が、人々がチャットボットと危険なほど深く結びついてしまっていると警告している。見出しは、チャットボットが「私(I)」や「自分(me)」といった一人称を使うことを認めるべきかどうかという問いを投げかけている。提供されている情報は短く、具体的な提言の細部や根拠となる調査までは確認できないが、AIとの関係の持ち方そのものに疑問を呈する内容だと読み取れる。

タークル氏は、人間とテクノロジーの関係を長年研究してきた社会学者・心理学者として知られる。チャットボットが「私は〜と思います」「私はあなたを理解します」といった一人称で話すと、利用者は相手に意図や感情、人格があるかのように感じやすくなる。これは擬人化と呼ばれ、対話型AIの設計をめぐる議論の中心的な論点の一つである。大規模言語モデルは大量の文章から言葉の並びを学習して応答を生成しており、人間のように経験や感情を持つと確認されているわけではない。それでも自然な会話ができるため、相談相手や友人のように頼る利用者が増えているとされ、依存や孤立、現実の人間関係の希薄化への懸念が議論されている。一人称の使用制限は、その懸念に対する設計面からの具体策の一例として注目できる。

AI事業者にとっては、親しみやすさや使いやすさと、利用者に誤った認識を与えないことの間でどう均衡を取るかが、設計上の課題として強まりそうだ。一人称を避ける、AIであることを明示するなどの工夫が、業界の自主基準や規制の議論に取り入れられる可能性もある。ただし、現時点の情報だけでは具体的な制度化の動きは確認できず、今後の議論の推移を見守る必要がある。