若者世代から強い人気を誇るTikTokでは多くのユーザーがさまざまな動画を投稿していますが、時には無防備な相手を頭から地面にたたきつける「頭蓋骨粉砕チャレンジ」など、非常に危険なチャレンジ動画が流行することが問題視されています。海外メディアのBloombergは、TikTokで流行した故意に窒息して失神する「ブラックアウトチャレンジ(失神チャレンジ)」に挑戦したことで、過去18カ月間に12歳以下の子どもが少なくとも15人以上亡くなったと報じています。

'Blackout Challenge' on TikTok Is Luring Young Kids to Death - Bloomberg

https://www.bloomberg.com/news/features/2022-11-30/is-tiktok-responsible-if-kids-die-doing-dangerous-viral-challenges

TikTokでは定期的に多種多様な「チャレンジ」が流行しており、多くのユーザーがチャレンジを実際にやってみた動画を投稿しています。チャレンジの中には、ズボンを履いたままおしっこを漏らす「おしっこパンツチャレンジ」や猫に生卵を与えて様子を見るチャレンジなど、奇妙ですが実害は少ないものもある一方で、「頭蓋骨粉砕チャレンジ」のように危険極まりないものもあります。

こうしたチャレンジの流行は、TikTokの運営会社であるByteDanceが買収して2018年に統合したリップシンクアプリのMusical.lyから続くものです。Musical.lyは数年にわたり、競合プラットフォームからはじき出された13歳未満の子どもを受け入れており、2016年の時点でトップユーザーの多くが未成年の子どもだったそうです。

Musical.lyの共同創業者であるAlex Zhu氏は2016年の公開カンファレンスで、Musical.lyが他のエンターテインメントアプリと違う点として、さまざまな「チャレンジ」が宣伝されており、ユーザーがこれに挑戦する風潮を挙げています。この風潮はMusical.lyを統合したTikTokにも引き継がれ、2020年の新型コロナウイルス感染症(COVID-19)のパンデミック期間に多くの若者たちが共鳴し、TikTokのチャレンジが世界的なトレンドとなりました。

やがてTikTokにおけるチャレンジは、「積み上げられた牛乳箱に登る」「抗アレルギー薬のベナドリルを一気飲みする」「学校の備品を破壊する」といった危険なものが増え、「頭蓋骨粉砕チャレンジ」や「失神チャレンジ」など死の危険を伴うチャレンジまで登場しました。失神チャレンジは、首つりなどの方法で意図的に脳を酸欠状態に追い込んで陶酔感を味わうチャレンジであり、Bloombergの調査では過去18カ月間で13歳未満の子どもが少なくとも15人、失神チャレンジの最中に事故死したとのこと。



失神チャレンジと同様の「窒息ゲーム」は以前から若者の間で行われており、アメリカ疾病予防管理センター(CDC)による2008年の報告では、1995年〜2007年には6歳〜19歳の若者82人が窒息ゲームで死亡したとされています。しかし、窒息ゲームの遺族が設立した非営利団体・Erik’s Causeの調査によると、2018年以降は少なくとも33人の13歳未満の子どもが窒息ゲームで死亡しているそうで、設立者のJudy Rogg氏は「ソーシャルメディアで窒息ゲームの人気が高まっています」と警告しています。

TikTokのモデレーションチームも危険なチャレンジを取り締まっていますが、ユーザーは「blackout challenge(失神チャレンジ)」「choking game(失神ゲーム)」といった直接的なワードを避け、「flatliner(心電図が止まって横一線になることを示唆する)」「space monkey(スペースモンキー)」など、より検出されにくいワードを使うようになったとのこと。また、あえて単語のつづりを間違えて検出を避ける方法も使われているそうです。

失神チャレンジのような危険なチャレンジは、特にリスクや結果の重大性を十分に理解できない子どもにとって危険です。TikTokは13歳未満の使用を禁止していますが、実際には多くの13歳未満のユーザーが年齢を偽ってTikTokを使用しており、モデレーションが追いついていないとのこと。イギリスで行われた調査では、8歳〜11歳の子どもの約半数がTikTokを毎日視聴していることがわかっています。

2021年1月にはイタリアのシチリア島で当時10歳のAntonella Sicomeroさんがバスローブのベルトで首をつって死亡したほか、2月にはアメリカのウィスコンシン州ミルウォーキーでも当時10歳のArriani Arroyoさんが首をつって死亡しました。2人ともTikTokのヘビーユーザーであり、遺族は兄弟や友人の証言から、TikTokで流行した「ゲーム」に挑戦して事故死したと主張しています。その後も世界各地で幼い子どもたちが首をつって死亡しており、遺族はTikTokのチャレンジが関わっていると疑っています。

これらの事件を調査した警察のほとんどは公にTikTokと死亡を関連づけていません。しかし、2021年7月に8歳で亡くなったLalani Waltonさんの件を調査したアメリカ・テネシー州クラークスビルの警察は、携帯電話の分析からLalaniさんが死の前日、TikTokで「失神チャレンジ」の動画を数時間も見ていたことを確認しました。

アメリカでは遺族によってTikTokへの訴訟が複数提起されていますが、TikTokは自分たちが推奨したコンテンツが事故を引き起こしたことを認めていません。また、プラットフォームサービスは第三者が発信する情報についての責任を負わないとする通信品位法230条(セクション230)で保護されていると主張し、訴訟自体を却下することを申し立てているとのこと。



近年、TikTokなどのプラットフォームにはコンテンツの検閲だけでなく、そもそも13歳未満のユーザーを許可しない保護施策の導入を求める動きが強まっています。アメリカ・カリフォルニア州で2022年8月に可決された「カリフォルニア年齢適正デザインコード法／AB-2273」は、18歳未満の子どもがアクセスする可能性が高いアプリやウェブサイトに対し、厳格な子どもの保護を義務づけるものです。

これにより、顔写真を用いた年齢認証システムの導入が進むと予想されており、プライバシーと子どもの保護の間でバランスを取ることは、プラットフォームにとって難しい課題となっています。

大量のアプリやウェブサイトに子どもの保護を義務づける法案が可決され「ネットユーザーの顔スキャン」が加速する危険性 - GIGAZINE



TikTokは2021年、顔から年齢を推定するソフトウェアを提供するYotiやHiveなどの企業とミーティングを行ったそうですが、結局これらのソフトウェアを導入するには至らなかったとのこと。この件について匿名の情報提供者は、中国政府とつながっている疑いで政治家らから厳しい目を向けられているTikTokが、顔写真を用いた年齢認証システムを導入することでさらなる追及を受けるのを恐れたのだとBloombergに証言しています。

なお、BloombergがHiveに対してミルウォーキーで亡くなったArrianiさんの動画を送信し、ソフトウェアで年齢を推定してもらったところ、ものの3秒で「10歳」という正確な年齢を推定できたとのこと。HiveのCEOを務めるKevin Guo氏は、「子どもの年齢を推定するためのテクノロジーは間違いなくここにあります」「おそらく導入を拒むプラットフォームは、問題の範囲を知りたくないと思っているのでしょう」と述べました。