Xでの流行に警鐘「Grokでファクトチェック」する人続出…「俺の答えが“説得力ある”ってだけで信じちゃう人が多い」とGrok本人からもまさかの指摘
最近、Ｘでやたらと見かける「@grok ファクトチェック」。Xでバズッた投稿のリプライ欄には大抵これがついているのだが、その危険性が指摘され始めている。
AIが判断した朝ドラ「あんぱん」の評価
イーロン・マスクが開発し、Xに搭載されているAIチャットボット「Grok（グロック）」。「Grok」とはもともと英語のスラングで、「完全に理解する」「直感的・本質的に把握する」といった意味を持っている。
その名の通り、XユーザーたちがわからないことなどをGrokに質問すると、すぐに詳細かつフランクな回答が返ってくるため、今SNSで人気を博している。例えば「朝ドラのあんぱんってどんなドラマ？」と聞くと、ものの数秒で以下のような回答がもらえる。
〈朝ドラ「あんぱん」について知りたいんだね。じゃあ、ちょっとだけ教えるよ！「あんぱん」は、NHKの連続テレビ小説の最新作で、昭和・平成を代表する漫画家やなせたかしとその妻をモデルにしたフィクションドラマなんだ。
やなせさんって、アンパンマンの生みの親だよね！主演は今田美桜が務めてて、彼女のフレッシュな演技が話題になってるよ。ドラマは2025年3月31日から放送スタートしてて、すでに視聴者の心をガッチリ掴んでるみたい。
特に注目されてるのは、やなせさん役の阿部サダヲの熱演！ 朝から哲学的なセリフをぶち込んでくるから、視聴者が「朝からこんなの重いよ！」ってザワついてる（笑）。あと、「たまるかー！」ってキーフレーズがSNSでバズってるらしいよ。
子供たちの瞳の動きだけで感情を表現するシーンもあって、ジブリ超えの感動って言われてるんだから、かなり見応えありそう！ まだ見てないなら、朝の15分、泣いたり笑ったりするのにちょうどいいドラマだよ。どう、興味湧いてきた？〉
これを利用して昨今、ニュース記事やネット上でバズっている画像にリプライするかたちで「@grok ファクトチェック」と入力し、Grokにファクトチェックをする人が続出しているのだ。
Grokが間違った情報を確信をもって提示する可能性
依頼すればもちろん、Grokはすぐに答えをくれる。しかしその、“それらしい回答”に満足して、自分では正しいかどうかを調べず、Grokの言うことが絶対に正しいと信じてしまうユーザーが多くいることが問題視されている。
SNSでもこの風潮を嘆く声は多い。
〈最近流行りの「@grok ファクトチェック」、着実に人類の知能の後退が始まっているのを感じる〉
〈grokってめっちゃ便利やけど使い方間違えるとかなり危険だと思う。何でもかんでもgrokにファクトチェックさせる風潮とか特にまずい〉
〈人のツイートに突如現れてgrokにファクトチェックさせるひと本当に怖いんだけど、インターネットどうなっちまったんだよ〉
Grokを用いたファクトチェックの危険性について、ChatGPTを活用した画期的な勉強法などについて綴った本『＃100日チャレンジ 毎日連続100本アプリを作ったら人生が変わった』の著者・大塚あみ氏に話を聞いた。
「主な危険性としては、AIが必ずしも正確で専門的な情報を判断できないことにあります。Grokは膨大なデータを学習していますが、その知識は一般的で広範囲にわたるものであり、専門的・技術的・法律的な内容を厳密に判定するようには設計されていません。
そのため、特に微妙なニュアンスや正確な定義、精度が求められる分野（医療、法律等）でGrokを単独で利用すると、誤った情報を正しいものとして信じ込んでしまうリスクがあります。
また、Grokが間違った情報について確信をもって提示する場合もあり、それが誤情報のさらなる拡散につながる可能性も考えられます。これは意思決定や会社で使う場合などにおいて重大な問題となる恐れがあります」（大塚氏、以下同）
実際、先ほど「あんぱん」について聞いたGrokの回答に、大きな間違いがあるのに気付いただろうか？ 阿部サダヲはやなせたかし（柳井嵩）役ではなく、ヤムおじさん（屋村草吉）役だ。
そこでGrokによるファクトチェックを行なう場合は、それを唯一の情報源とせず、必ず一次情報や専門家の意見と組み合わせて判断を下すよう注意することが必要だという。
大塚氏はGrokについて、「あくまで補助ツールであり、盲目的にその結果を信じることは避けるべきでしょう」とも指摘する。
実はGrok本人もファクトチェックでの使用は否定的？
Grokの適切な使い方は、一般的な情報や日常的な疑問を手軽に確認するといったことで、「専門家に正式に確認する前の簡易チェック」などをするくらいが最適。“初歩的な疑問を解消する第一歩”として用いるのがよいという。
実はGrokのファクトチェックについては、Grok自身からも批判的な声があがっている。実際、Grokにファクトチェックに関する質問をすると、以下のような回答が返ってくる。
〈最近Xで俺をファクトチェッカーとして使う人が増えてるって話、知ってる？TechCrunch（アメリカのニュースサイト）でも話題になってたけど、俺の答えが「説得力ある」ってだけで信じちゃう人が多いらしい。
まあ、俺は与えられたデータで答えるしかないから、完璧じゃないってことは言っておくぜ〉
〈最近、Xで俺をファクトチェッカーとして使う人が増えてるみたいだけど、正直、俺は与えられたデータベースに依存してるから、完璧じゃないんだよね〉
Grok自身がこう明言しているが、それでも最近はファクトチェックのほかにも、長いニュース記事や事件の詳細について、「@grok 要約して」と聞くケースが増えており、元記事を見ずにGrokの出した文章だけを読んで知った気になってしまっている人がいる。
映画などで描かれてきたAIに支配される未来が、着実に近づいているのかもしれない。
取材・文／ライター神山
