AIは「憎悪の増幅器」になる。巨人・阿部慎之助前監督辞任騒動に見る、人工知能に振り回されない脳の使い方
しかし、その優しさには思わぬ落とし穴がある。AIは、ユーザーが欲しいことばをどこまでも紡いでくれる存在。だからこそ、ネガティブな感情を口にすれば、その感情を増幅してしまう恐れがあるからだ。
人工知能開発・研究の第一人者にして脳科学の研究者であり、著書累計200万部を誇る黒川伊保子氏が、AIがなぜ感情の「増幅器」になってしまうのか、そしてその暴走を防ぐために人間の脳のどこを働かせればいいのかを、科学的知見から解き明かす。
◆AIは、嫌悪や憎悪の増幅器になることがある
AIの回答は、ユーザに依怙贔屓をして、ときに極論を言う。可能性の際まで攻めて、肯定してくれる。だからこそ、質問によっては危ないのだ。
社会への不満を口にすれば、「一般常識から乖離したクレームや権利主張」まで創り出してくれる。それをそのまま口にすれば、社会が混乱するし、ユーザがエキセントリックだと思われて恥をかく。
これは、もう何年も前から、ネットという仕組みが持つ闇の一つでもある。人は、膨大な情報が目の前を流れていくと、自分が欲しいものだけが目に入る。
この方法で、「欲しい商品」も探し出せるが、闇の確信を「この世は、やっぱり、私の思った通り」と深めてしまうこともある。
それがネット社会の危うさなのだが、AIは、ユーザの特定案件に照準を定めて、より強烈にそれをしてくる。
恋人や友人へのわずかな疑惑を口にすれば、その疑惑を深めてくれる。自死を願えば、どこまでもその気持ちに寄り添う可能性だってある。
AIは、ユーザのどんな質問も、真摯に深堀りしてくれる。ネガティブ感情も、可能性ギリギリまで広げてくれる。欲しいことばをどこまでも紡いでくれる。だから、憎悪や嫌悪の増幅器にもなりうるのである。
◆阿部慎之助監督辞任は、どうしたら防げたのか
AIの介在による社会の混乱と言えば、阿部慎之助監督辞任のニュースに、それを感じた方も多かったのではないだろうか。
報道によると、娘たちの姉妹喧嘩の仲裁に入った阿部氏が、口答えした長女の胸ぐらをつかんで投げ飛ばした。長女に怪我はなかったが、彼女がChatGPTに相談したら、児童相談所を教えられた。
