AIとやり取りし続けると人間が「ロボットのように」振る舞い始めてしまう可能性
AIの急速な発展に伴い、ユーザーからの質問に回答するAIチャットボットや、生成AIによる自動音声サポートを導入する企業が増えています。そんな中、人間がAIとのやり取りを重ねるにつれて、「まるでロボットのように振る舞い始めてしまう可能性がある」と研究者らが指摘しました。
Robotoid humanness: when selfhood becomes machine-legible | AI & SOCIETY | Springer Nature Link
Interacting with AI can make people act more like robots - University of Birmingham
https://www.birmingham.ac.uk/news/2026/interacting-with-customer-service-ai-can-make-people-act-more-like-robots-research-suggests
Researchers Warn AI Could Be Changing Us in an Unexpected Way : ScienceAlert
https://www.sciencealert.com/interacting-with-ai-might-make-you-act-more-robot-like-researchers-warn
近年はカスタマーサービスにAIを導入して、人間の従業員を削減する動きが進んでいます。一方で、AIカスタマーサービスを積極導入していたフィンテック企業が「サービス品質低下」のため人間の採用を再開する事例や、人間の担当者が「AIじゃなくて人間を出せ」と文句を言われる事例なども報告されています。
コールセンターの担当者が客から「AIじゃなくて人間を出せ」と言われる事態が多発中、一方で「AIの方がマシ」という意見も - GIGAZINE
しかし、人間がカスタマーサービスAIとやり取りする機会が増えているにもかかわらず、それが人間にどのような影響を及ぼすのかはよくわかっていません。そんな中、新たに学術誌のAI & Societyに掲載された論文では、人間がAIとのやり取りを重ねるにつれて「ロボット的人間性」を獲得するようになると考察されています。
イギリス・バーミンガム大学のマーケティング学准教授であるインシ・トーラル＝マンソン氏らの研究チームは、AIと人間の相互作用において、「消費者(ユーザー)とAI双方のコミットメント」が生まれると指摘。これには、ユーザーがAIとのやり取りに時間を費やすことで「AIが理解しやすい言葉やパターン」を学習し、それをコミュニケーションに反映するというものが含まれます。
人間同士のやり取りでは、人は相手からの社会的合図を受け取り、無意識にうちに相手の行動や表情を模倣する「ミラーリング」という現象が起こります。これと同様の現象が、AIと人間との間にも起こる可能性があるというわけです。
一般に、現実の人間から得られるフィードバックには予期せぬものや制御不能なものが多い一方、AIのフィードバックは明確で統計に基づいたものであるため、人間の方から合わせるのが簡単です。AIとやり取りするのが当たり前になった人は、AIから良好なフィードバックを得やすい「ロボットらしい」言葉遣いや態度を習得し、そのように振る舞ってしまう可能性があります。
トーラル＝マンソン氏は、「顧客サービス現場向けのソーシャルロボットはジェスチャーや話し方、感情的な合図を模倣することで、顧客からの認知的および感情的な反応を引き出すように設計されています。私たちの研究では、こうした擬人化されたロボットとのやり取りが、ロボットが人間らしくなり、人間がロボットらしくなるという双方向的な影響を生み出す可能性を探っています。私たちはこれを『ロボット的人間性』と呼んでいます」と述べました。
論文の筆頭著者であるスウェーデン・リンネ大学のセルジェン・オズトゥルカン准教授は、「消費者が行動してロボットが反応するやり取りを繰り返すうちに、消費者は次第にそのやり取りを内面化していきます。機械学習とAIはこのプロセスを増幅させ、ユーザーの入力に基づいてロボットの行動を調整することで、よりパーソナライズされた人間らしいロボットの模倣を可能にします。人間にとって、模倣するという生来の本能はロボットのコミュニケーション行動を模倣することにつながり、ロボットをよりロボットらしくしてしまう可能性があります」と説明しています。
科学系メディアのScienceAlertは、「言い換えれば、AIは人間的な角が丸められた私たちの姿に最もよく反応するように設計されています。この研究は、AIとのやり取りを繰り返すうちに私たちが無意識にそのような自己像へと傾倒し、AIから最良の反応を得て会話を進展させていく可能性があると示唆しています」と述べました。
研究チームは、このような人間とAIの継続的なフィードバックループによる模倣が、消費者のアイデンティティや自己像を変化させてしまう可能性があると指摘。また、アルゴリズムによるフィードバックに繰り返しさらされることで、確証バイアスなどの負の結果が生じることも考えられ、深刻な倫理的懸念があると警告しています。
論文の共著者であるデンマーク・オーフス大学のジャン＝ポール・ド・クロス・ペロナード准教授は、「ロボットとAIは、今やカスタマーサービスにおいてごく一般的になっています。そのため、企業が倫理的な観点から利用可能なテクノロジーを最大限に活用するためには、人々がロボットやAIとどのようにやり取りするのかを理解することが重要です」と結論付けました。
