なぜ、SNS上にはフェイク情報や差別感情をあおるコンテンツが多く見られるのか。『ルポ アルゴリズム政治 計算された「おすすめ」の世界に吸い込まれる人たち』(朝日新書)を出した朝日新聞取材班によると「過激で断定的な内容であるほど視聴者の感情を刺激し、拡散と収益の可能性が高まるからだ」という--。
写真=iStock.com/tsingha25
※写真はイメージです - 写真=iStock.com/tsingha25

■「負の感情」ほどカネになる構造

ソーシャルメディアのアルゴリズムを「ハック」する形で、偽・誤情報を含む政治動画や差別的な動画が拡散されている。

SNSや偽・誤情報の問題に詳しい国際大学の山口真一教授(社会情報学)は、背景に「負の感情をあおるほど収益につながるアテンション・エコノミーの構造的な問題がある」と指摘する。

山口氏によると、怒りや嫌悪、不安といった感情は、人々の注意を引きやすく、制作者は広告収入を得やすい。特に、特定の国や集団への反感を刺激する内容は感情を動かしやすいという。対立構造になりやすい政治系動画や、「外国人政策」といったテーマでもその傾向は顕著だ。

こうした環境下では、フェイク情報や、悪感情をあおるコンテンツの作成は、むしろ「合理的な戦略」となってしまう。過激で断定的であるほど感情を刺激し、拡散と収益の可能性が高まるからだ。動画の作り手は、その信条や差別意識だけでなく経済的動機も無視できないというのが山口氏の指摘だ。

視聴者が動画の真贋(しんがん)を見極められる人ばかりとは限らない。動画の説明欄をよく読めば「フィクション」などと書かれていても、視聴者に十分に伝わるとは限らないのは、取材を通してまざまざと感じた。

「(動画の内容が)現実と受け止められれば、差別意識の強化や現実認識のゆがみにつながりかねない」と山口氏は警鐘を鳴らす。生成AIの精度が日に日に高まるなかで、その危険性がより増しているのは間違いない。

■「儲けるための過激化」を防ぐ必要性

こうした動画の氾濫は、民主主義全体にも大きな影響を及ぼしかねない。

反応を集めやすい過激なコンテンツが優先されるアテンション・エコノミーの構造の下では、複雑な議論や熟議はソーシャルメディア上から姿を消してしまう。政治家や政党が発する政治的メッセージも、結果として「真偽や論理的一貫性よりも、より強い感情反応を引き出す方向へと最適化されやすくなる」と山口氏。それは、合意形成の難しさや分断の固定化への道になってしまう。

どういった対策が求められるのか。

ソーシャルメディアを使う側としては、強い怒りや嫌悪をかき立てるコンテンツほど、一呼吸おいて考える習慣が必要になってくるという。山口氏は「(直接の当事者の証言や公式発表などの)一次情報はあるか」「どういう目的で投稿されているか」などに着目してほしいと訴える。

そして構造的な解決策として、「ウソや過激さが合理的ではない仕組みをつくる」。例えば政治系動画については、選挙期間中は広告収益を停止することで、少なくとも、「儲けるために過激化する」という動機を弱めることができるという。

■「BAN祭り」と呼ばれる現象

「非属人YouTube」の運営者たちを取材していた2026年1月下旬から2月にかけて、彼らの「悲鳴」が聞こえてきた。YouTube側によって大量のチャンネルが広告収益を止められたのだ。界隈では、大手パンメーカーによる販売促進キャンペーン「春のパンまつり」をもじって、「BAN(禁止)祭り」とも呼ばれる現象だ。

取材していた政治系や「嫌中」系のチャンネル運営者たちはいずれも、この時期に広告収益を停止されていた。

実はこのとき、YouTube側が動画やジャンルの「内容」をどれだけ問題視したかは、はっきりしていない。多くのチャンネル運営者らの元に届いたメールに書かれていた理由は、「視聴回数を増やすことのみを目的として大量生産されたコンテンツや繰り返しの多いコンテンツ」と判断されたということだった。

グーグル日本法人は取材に対し、「こういったコンテンツはこれまでも収益化の対象外だった」などと答え、理由を明確にはしなかった。しかし、公式発表からは、背景に「AIスロップ」と呼ばれるコンテンツの蔓延があったと推測できる。

スロップ(slop)とは、「泥」や「ぬかるみ」を意味する英語だ。豚に餌として与える残飯といった意味でも使われ、現代では極めて低品質のAIコンテンツを単に「スロップ」と呼ぶ。生成AIの急速な発展に伴って新たな意味が与えられ、アメリカの由緒ある辞書メリアム・ウェブスターや英誌エコノミストなどが、2025年の「今年の言葉」に選んだ。

写真=iStock.com/Onidji
※写真はイメージです - 写真=iStock.com/Onidji

■ユーザーに食べさせる“残飯”コンテンツ

スロップの例は、「擬人化された女性のトマトが、男性のバナナと不倫して、夫のトマトに問い詰められる」といった支離滅裂な動画や、架空の爆発や災害のショート動画があげられる。ユーザーの関心を釘付けにして収益を得ることだけを目的にしているとみられ、まさにユーザーに食べさせる「残飯」だ。

有力紙ニューヨーク・タイムズやケーブルテレビHBOといったアメリカの大手メディアはスロップを批判的に取り上げる記事や番組を配信。カリフォルニア州の映像関連会社Kapwingが2025年11月に公表した調査によると、YouTubeのアルゴリズムが新規の視聴者にお薦めする500本の動画のうち2割がスロップだった。

アメリカやスペイン、韓国などのスロップに特化したチャンネルは300万~600万人近い登録者もおり、収益は推定で1チャンネルあたり最大で400万ドル(6億円超)にものぼるという。

広告に関するニュースに特化したネットメディア「the Current」は2025年9月時点で、AI製のように見えるコンテンツにつけられた広告は「信頼度が下がりやすい」とする統計を引き、スロップの氾濫に対する広告業界内の懸念を伝える記事を配信した。

こうした風潮を受け、YouTubeのニール・モーハンCEOは2026年1月、年次書簡でスロップ対策を「優先事項」にすると公表した。「低品質なコンテンツへの懸念が高まっている」「視聴者が心地よく時間を過ごせる場所であり続けるよう努める」などとして、「質の低いAIコンテンツの蔓延を防ぐ」とした。

■それでも流れ続ける「政治系動画」

その直後に始まったのが、日本での「BAN(禁止)祭り」だった。だが、それまで少なくとも2年間は野放しだった「政治系動画」や「嫌中動画」の問題を、YouTubeはどれほど考慮したのだろうか。動画の根本的な問題点に向き合っていないとすれば、果たして実効的な対策は取れるのだろうか。

朝日新聞取材班『ルポ アルゴリズム政治』(朝日新書)

本書『ルポ アルゴリズム政治』を執筆中の2026年8月、ウォッチしていた複数のチャンネルの収益化は止まったままのようだ。一方で、投稿を続けているチャンネルも多い。本書で紹介した、「高市首相の声明にベネズエラ人が感謝している」という真偽不明のショート動画を投稿していたチャンネルは、今も政治をテーマとしたショート動画を投稿し続けている。広告収益を得ているのか、止まっているのか、連絡先は公開されておらず、分からない。

また、真偽不明の「嫌中」動画を流すあるチャンネルも、投稿を続けている。複数の動画で再生回数が数十万回に上り、広告もついているが、収益を得ているか、確定的なことは分からない。

コメント欄には依然として、野党の政治家をののしる言葉や、中国人に対する差別的な言葉が並んでいる。

■「放置しておくのが得策」としたのか

YouTubeの公式サイトによると、動画投稿者に入る広告収益は、全体の広告収益の55%だ。残りの45%は「大部分がYouTubeのビジネスに再投資されています」とある。

推測の域を出ないが、YouTube側に、広告収益のためには、視聴者を引きつけている動画は「政治系」であれ、「嫌中」であれ、「放置しておくのが得策」という考えはないだろうか。

嫌中動画から高市首相の動画にシフトし、2週間で50万円の収益を得たと語っていた60代元国家公務員の男性は、収益化を停止されても新たなチャンネルを思案中だと明かしていた。ジャンルは明かさなかったが、大量生産だと判断されないよう工夫をして、投稿は続けるという。

「これからもYouTubeで稼ぎますよ。これを中心に、妻子を養っていくんで」

その言葉が耳に残っている。

(朝日新聞取材班)