AIテクノロジーの発展に伴って、高い感情的能力を示してユーザーの気持ちに寄り添えるAIエージェントが登場しています。一見すると、人間らしいAIの開発はユーザーにメリットをもたらすように思われますが、AIの人間らしさを認識することにより、逆に現実の人間を「人間らしくない」と見なしてしまい、非人間化する副作用があるとの研究結果が報告されています。

AI‐induced dehumanization - Kim - 2025 - Journal of Consumer Psychology - Wiley Online Library

https://myscp.onlinelibrary.wiley.com/doi/10.1002/jcpy.1441



Assimilation-induced dehumanization: Psychology research uncovers a dark side effect of AI

https://www.psypost.org/assimilation-induced-dehumanization-psychology-research-uncovers-a-dark-side-effect-of-ai/

近年のAIエージェントはもはや「便利な機能」という枠組みを超えており、暇つぶしの雑談相手や真剣な悩み事の相談相手、愚痴をこぼせる友人としてAIエージェントを扱う人もいます。感情的能力が高いAIエージェントは、ユーザーとAIのやり取りをより満足いくものに変える可能性がありますが、それが「他人に対する認識」にどのような影響を及ぼすのかはよく知られていません。

心理学研究は長年にわたり、相手が思考力や感情といった精神的能力をどれほど持っているのかについての認識が、他者への接し方に影響を与えることを示してきました。特に感情は人間性の中核をなすものと見られており、人間のような感情的能力を持つAIに接すると、人々はそのAIをより人間らしい存在と見なす可能性が高まると考えられます。逆に、AIをより人間らしい存在と見なすことで、現実の人間に対する「人間らしさ」の評価が下がり、相手を非人間化してしまう可能性もあると懸念されています。

ロンドン・スクール・オブ・エコノミクスのキム・ヘヨン助教は、「興味深い点は、人々がAIのわずかな人間らしさの兆候にも反応し、しばしば他の人間と同様に扱うという点です。この点から私たちは、『AIが示す人間らしさは、機械をより人間らしく見せる一方で、実在の人間を機械のように見せる可能性があるのではないか？』という疑問を抱きました」と述べています。



そこでキム氏らの研究チームは、「AIの人間らしさ」についての評価が、現実の人間に対する評価にどのような影響を及ぼすのかを調べる5つの実験を行いました。実験では、被験者に社会感情的能力が高いAIエージェントと低いAIエージェントに接してもらい、AIと実際の人間に対する人間らしさを評価するよう求めました。また、実際の人間に対してどのように振る舞うのかも測定されました。

1つ目の実験では、オンラインで募集した195人の被験者を2つのグループに分けて、「ヒューマノイドロボットが表現力豊かでエネルギッシュに踊る動画」あるいは「同じロボットが機械的なパルクールをする動画」を見せました。その後、被験者全員にロボットにどれほど心があるように感じるのかを尋ねています。また、「従業員の温かい食事を代替シェイクに置き換える」「従業員を小さなマイクロカプセルの部屋に収容する」「従業員の動作すべてを監視する追跡装置を装着する」など、従業員の福利厚生に潜在的な悪影響を及ぼす変更について説明したシナリオを読み、どの程度支持するのかを調査しました。

その結果、ロボットの表現力豊かなダンスを見たグループは、機械的なパルクールを見たグループと比較して、ロボットに心があるように感じていたことが判明。また、同じくロボットのダンスを見たグループは、職場における非人間的な変化を支持する傾向が有意に高いことが示されました。

451人の被験者を対象にした2つ目の実験では、1つ目の実験と同じくロボットがダンスまたはパルクールを行う2種類の動画を見せました。その上で、ロボットの能力について「中程度のもの(人間と同じレベル)」と説明したグループと、「極端に高いもの(赤外線やX線が見えるなど超人的な能力を持つ)」と説明したグループに分けました。その後、被験者は「非人間化レベルを測る質問」に回答しました。この質問は、人間が冷たく機械的な存在に見えるか、あるいは洗練されておらず動物的に見えるかを評価するものです。

実験の結果、ロボットの能力が中程度であると説明されたグループの場合、1つ目の実験結果と同じくダンスするロボットの動画を見た被験者は、実際の人間をより非人間化する傾向がみられました。一方、ロボットが超人的な能力を持つと説明されたグループは、実際の人間をより人間らしいものと感じることがわかりました。これは、機械が明白に人間とは異なるカテゴリーに存在している場合、自分たちの人間性をより強化することを示唆しています。



3つ目の実験では、651人の被験者を3つのグループに分けて、「微妙な感情にも反応できるバーチャルセラピープログラム」「複雑なデータを分析できる医療診断プログラム」「単純なアンケート分析プログラム」のいずれかについての資料を読んでもらい、2つ目の実験と同じ非人間化尺度に回答させました。その結果、バーチャルセラピープログラムについて読んだ被験者のみが、人間の非人間化を増大させました。これは、AIやロボットが感情的な能力を持っているかどうかが、非人間化プロセスの引き金になることを示しています。

4つ目の実験では、280人の被験者に「AIが優れた感情的能力を持つと説明した記事」あるいは「AIの感情的能力には限界があると説明した記事」を読んでもらい、AIエージェントと一般的な人間の「人間らしさ」について評価が行われました。その後、被験者に「25ドル(約3700円)」のギフトカードが当たるチャンスがあると説明し、Amazonギフトカードかコストコギフトカードを選ぶよう指示しました。この選択前に、被験者には「Amazonの非人間的な労働環境を説明した実際のニュース記事」を読ませています。

実験の結果、一般的な人間の人間らしさを低く評価する被験者は、Amazonの労働環境についてのニュース記事にあまり不快感を覚えず、Amazonギフトカードを選ぶ可能性が高いことがわかりました。この結果は、感情的能力を持つAIに触れた被験者は実際の人間の人間らしさを低く評価し、それが現実世界の行動にも影響を及ぼすことを意味するものです。

最後に行われた5つ目の実験では331人の被験者に対して、ある企業のカスタマーサービス向けの会話型バーチャルアシスタントについて説明しました。一方のグループには、「高い社会感情的スキルを持って顧客の感情的ニーズに合わせて話し方を調節できる」と説明し、もう一方のグループには「アシスタントの能力は純粋に機械的なもの」と説明しました。その後、被験者には0.25ドル(約37円)のボーナスが支給され、このボーナスを人間のカスタマーサービス担当者のメンタルヘルスを支援する募金キャンペーンに寄付するかどうかが尋ねられました。

その結果、感情的知能を持つバーチャルアシスタントについて説明された被験者は、アシスタントをより人間らしく感じる一方、人間の従業員を支援するキャンペーンに寄付する可能性が低くなりました。



キム氏は心理学系メディアのPsyPostに対し、「AIの社会的・感情的能力を認識するほど、生身の人間を機械のように、つまり配慮や敬意に値しない存在として見てしまう可能性が高まります。消費者が顧客対応においてAIと関わる機会が増えるにつれ、AIによって引き起こされる非人間化によって、従業員や最前線で働く人々を無意識のうちに虐待してしまう可能性が高まることを、私たちは心にとどめておくべきです」と述べています。

今回の研究ではわからなかったこととして、「感情的能力を持つAIとのやり取りが、自分自身に対しても同様の非人間化を引き起こすのか？」という点があります。1つの可能性として、高度な感情的能力を持つAIが存在する職場では、人間の従業員がより非人間的な扱いを受け入れる可能性があるとのこと。これとは逆に、他者を非人間化するにもかかわらず、自分自身の人間性は強化される可能性もあります。

キム氏は、「AIが私たちの日常生活にますます深く浸透していく中で、これらの影響が時間と共にどのように展開していくのかを理解することは、特に重要になるでしょう。最終的には、AIテクノロジーが私たちの社会的な関係や人間的価値観を損なうのではなく、高めることができるような、責任ある設計と展開のあり方を解明することを目指しています」と述べました。