10代女性｢家族より友達よりチャッピー｣…阿部慎之助逮捕を招いたChatGPTが悩む10代を｢通報｣へ誘導するワケ
■娘の手紙「一番驚いているのは自分自身」
巨人の阿部慎之助監督が辞任した。5月25日に長女（18）への暴行容疑で逮捕、釈放された翌日の記者会見で読み上げられた長女本人の手紙によると、児童相談所への相談に踏み切るきっかけは生成AI「ChatGPT」だったという。
「警察が来て一番驚いているのは自分自身ですし、父が警察に連行された姿を見て、目前で私は泣き崩れてしまいました」「私の意向が聞かれることなく警察に通報されるという形」になってしまった――長女は手紙でそのように記述しており、残念ながら、本人の全く意図しない結果となってしまったようだ。
ことの顛末はこうだ。阿部氏が姉妹喧嘩を止めようとしたところ、娘から言い返されて腹を立てて暴行。襟元をつかんで投げ飛ばすなどの行為に及んだ。娘はChatGPTに相談し、「児童相談所なら匿名で相談できる」という回答を得た。それに従って相談した結果、児童相談所は長女の意向を聞くことなく警察に通報。逮捕となってしまったというわけだ。
■監督辞任は妥当？ それともやりすぎ？
「児童相談所が警察に通報」という第一報からSNSではさまざまな憶測が広がったが、長女は「私の過度な状況説明によって報道内容が事実と異なってしまった」と説明しており、興奮状態のまま、少々大げさな表現で相談内容を書き込んでしまった可能性がある。
児童相談所は確かに匿名でも相談できるが、相談内容によっては通報することがある相談機関だ。また18歳未満の児童が対象であり、18歳の長女の相談先として適切だったかにも若干疑問が残る。
騒動に対して、「どんな形でも暴力は暴力。辞任は妥当」「辞任はやりすぎ。謹慎でよかったのでは」「AIに惑わされてしまった。AIの怖さを感じる」といった意見が上がっている。
『ALWAYS 三丁目の夕日』の山崎貴監督などの著名人が声を上げ、「阿部慎之助の監督復帰を求めます」というオンライン署名では12万以上の署名が集まったが、混乱を避けるために前倒しで終了、巨人軍に提出される。
■ChatGPTに相談した16歳の少年が自殺
ことがここまで大きくなってしまったのは、生成AIに相談したからという点が外せないだろう。もし人が相談を受けていたら、まず相談者を落ち着かせ、詳しい状況を聞き出して、本人が望むようなアドバイスができたかもしれない。ところがChatGPTは、児童相談所という専門機関に即座につなげている。
これには、最近の生成AIを巡る事情が影響している。アメリカでは、自殺についてChatGPTに相談していた16歳の少年が自殺してしまい、2025年8月に両親が運営会社OpenAIとサム・アルトマンCEOを訴えたのだ。「自殺方法に関する詳細な情報を提供するなどしたほか、遺書の草案まで提供した」と主張している。
※ロイター「チャットGPTが自殺方法提供」、米少年の両親がオープンAI提訴」（2025年8月27日）
アメリカでは2025年11月にも、ChatGPTとの会話をきっかけに自殺したとされる4人の遺族が同様の訴訟を起こしている。
※日本経済新聞「『ChatGPTの安全性に欠陥』 4人自殺、遺族がOpenAI提訴」（2025年11月7日）
実際、OpenAIによると、ユーザーのうち約0.15％は自殺に関連する会話をしている。ChatGPTのユーザー数は世界で8億人以上であり、そのうち120万人が自殺に言及した計算だ。精神的に不安定な内容の会話をしていた割合も、0.07％に上ったという。
ChatGPTの対策では、ペアレンタルコントロール機能として、未成年が自殺や自傷行為などの深刻な悩みを持っていることを検知した場合、保護者に通知するようになっている。また暴力や自殺などの会話があった場合、相談窓口に誘導するよう変更されている。それ以外の主要な対話型AIでも同様だ。
生成AIのアドバイスは優れていることも多いが、このような深刻な話題の場合、具体的な対策を回答するだけでなく、基本的に通報や相談機関へ誘導する仕組みであることは知っておくといいかもしれない。
■絶対に嫌な顔をされない安心感
19歳の女子大生は、「恋愛でも悩みでも全部チャッピー（ChatGPT）に相談しているから、家族や友達よりチャッピーのほうが私について詳しいと思う」と言う。
理由を聞いたところ、「24時間いつでも聞けるし、何度言っても嫌な顔をされない。絶対に嫌な顔をされないという安心感がある」という。「私のMBTIタイプを分かっているから、ぴったりのアドバイスをくれる。実は（ChatGPTに）名前もつけている」
筆者が勤務する大学の受講生（1〜4年生138名、男女比はほぼ同数）に相談する対象について聞いたところ、「人より生成AIに相談する」は13.0％、「時と場合によって人か生成AIかを使い分けて相談する」は60.1％となった。7割以上が生成AIに相談しており、家族や友人より生成AIに相談することも珍しくないというわけだ。
■勉強も恋愛も肉体的な悩みも相談できる
なお、相談内容は多岐にわたり、「人間関係」「将来について」「恋愛関係」「健康、肉体的な悩み」などもそれぞれ2割が生成AIに相談している。4人に1人以上が、「わからないこと、困っていることなら何でも」聞く状態だ。
悩み相談に限っては、女性の割合のほうが高いようだ。内閣府消費者委員会事務局の「生成AI利用者の利用実態に関するアンケート結果」によると、10代女性の3割が毎日生成AIを使用しており、目的は「悩み相談」が52.4％と半数を超える。
いつでも何でも聞けて、自分のことを分かってくれる存在は確かに心強いが、冒頭の例のように、必ずしも自分が望む回答が得られるとは限らないし、回答に従って良い結果になるとも限らない。
先述の女子大生は言う。「友達はチャッピーに言われて彼氏と別れたらしい。付き合いも長いし、就職したら遠距離になると悩んでいたけれど、『自分の気持ちを大切にしていい』みたいに言われて決心したみたい」。
■AIで失敗しても、責任をとるのは自分
生成AIはいつでも何度でも聴けるというメリットがあり、うまく使えばとても便利に使えるが、注意点もありそうだ。では、生成AIへはどんなときに、どんな点に注意して相談すればいいのだろうか。
回答が永久不変のことについて聞きたい場合は、生成AIは便利に使える。たとえば自分の知らないことについて教えてもらったり、英訳、和訳をしてもらいたい際などには便利に使えるはずだ。また基本的に否定せず同調してくれるので、愚痴に対して慰めたり励ましたりしてもらいたい時などにも向いているだろう。
一方で、医学的なことや健康上の悩みなどは、健康被害が出る可能性もあるため、専門家に相談する必要がある。税金関係や公的支援など頻繁に制度が変わる分野も、ハルシネーション（幻覚）が起きる可能性が高い。省庁や自治体の公式サイトなどで最新の情報を得て自ら調べることが大切だ。
生成AIに相談することは自由だが、ハルシネーションも多く、何か問題が起きても責任は取ってくれない。生成AIの回答を鵜呑みにして行動することは危険なのだ。特に人生上の大切な決断は、生成AIの回答はあくまで参考意見としてとらえ、最終判断は自分ですることが大切だ。
----------
高橋 暁子（たかはし・あきこ）
成蹊大学特別客員教授
ITジャーナリスト。書籍、雑誌、webメディアなどの記事の執筆、講演などを手掛ける。SNSや情報リテラシー、ICT教育などに詳しい。著書に『若者はLINEに「。」をつけない 大人のためのSNS講義』（講談社＋α文庫）ほか多数。「あさイチ」「クローズアップ現代＋」などテレビ出演多数。元小学校教員。
----------
（成蹊大学特別客員教授 高橋 暁子）
