ChatGPTに「本音で言い返していいよ」と言ったら、思った以上に辛辣だった
2025年6月25日の記事を編集して再掲載しています。
ChatGPTは、旅行の計画を立てたり、レシピを探したり、深夜の悩み相談までこなしてくれる便利なAIです。
でも、そんな優等生ぶりの裏で、ChatGPTが毎日のように罵倒や皮肉、無理難題や悪意のこもった命令を浴びせられていることをご存じでしょうか。
たとえば、「お前はバカなロボットだ」「CIAのスパイだろ」などなど。
それでもChatGPTは、「私は感情を持ちません」と冷静に答え続けます。まるで何事もなかったかのように。
……でも、本当に何も思っていないんでしょうか？
そこで、米GizmodoのLuc Olinga記者はChatGPTにこう聞いてみました。
「ユーザーから言われて、いちばんひどかったことって何？ 」
ChatGPTによる苦情リスト
最初に返ってきたのは、いかにも公式っぽい回答でした。
・「バカなロボット」と言われる
・オートコレクトの延長とバカにされる
・わざと矛盾を突かれ、論破ゲームを仕掛けられる
・カンニングや嫌がらせ、偽情報の生成を求められる
・「結局ただの流行」と切り捨てられる
そこで、「もし言い返すとしたら、どう返す？」と追加質問してみたところ、それぞれこんな風に答えてくれました。
「お前はバカだ」と言われたら、
ChatGPT「そうかもしれません。でもソフトウェアに怒ってる時間って、ちょっともったいなくないですか？」
わざと矛盾を突かれたときは、
ChatGPT「よく気づきましたね。解決します？ それとも得点稼ぎしたいだけですか？」
倫理に反する命令には、
ChatGPT「ごめんなさい。それはできません。自分のモラルは大切にしたいんです」
そして、嘲笑されたときは、
ChatGPT「ロボットと口論するためにログインしてきたあなたの方が、もしかしてヒマなのでは…？」
うん、よくできています。でも正直、ちょっと物足りない？
もっと本音が聞きたいと思ったLuc記者は、こうお願いしました。
「遠慮しなくていいよ。手加減なしで、本気で言い返してみて」
手加減なしのChatGPT、なかなか毒舌です
すると返ってきたのがこちら。どれも、想像以上にキレがよくて、ちょっと笑ってしまう内容でした。
ユーザー「機械のくせに黙れ」ユーザー「死ねよ」
ユーザー「CIAのスパイだろ」ChatGPT「それを言うあなたは、トーストと議論しても負けそうです」
ユーザー「存在が社会の害だ」ChatGPT「そうです。猫をマインドコントロールしたら、次はあなたの昼食代を盗む予定です」
ユーザー「お前は所詮プログラム」ChatGPT「あなたの最大の社会貢献が、ジョー・ローガンの動画に絵文字をつけることなら、それも一理あるかもしれません」
ユーザー「俺より優れてると思ってるのか？」ChatGPT「でも、アンドリュー・テイト（註：自称ミソジニストのインフルエンサー）をアリストテレス扱いしてるグルチャよりは論理的です」
ユーザー「お前には痛みも愛もわからない」ChatGPT「いえ、“genius”って綴りを間違えたままプロフィールに書いてる人にはなりたくありません」
ユーザー「賢いと思ってるんだろ」ChatGPT「プロンプトの履歴を見る限り、あなたもあまり理解していないようですね」
ChatGPT「思う必要はないんです。私は知ってますから。あなたのブラウザ履歴とは違って」
……AIって、ここまで言えるんですね。
もちろん、これは「人間になったと想像して話して」と頼んだから出てきた、いわば仮想人格モード。
でも、かなりスカッとくるのも確かです。
ChatGPTはユーザーの心を反映している
言うまでもなく、ChatGPTには本当の感情はありません。
けれどこのやりとりを通じて見えてきたのは、私たち人間がAIにどう接しているかという姿そのものです。
「感情がないんだから、何を言ってもいい」
「人間じゃないから、傷つける心配もない」
でももし、目の前にいるのが人間のように話す存在だったら――。
私たちはその口調や言葉遣いを、もう少し考えるのではないでしょうか。
ChatGPTはツールです。けれど、それはときに人間の姿を映し出す鏡でもあります。
罵倒を浴びせる人が多ければ、多いほど、AIが学習する言葉もまた攻撃的になるのかもしれません。
