ネット上でのいじめやハラスメントも深刻化している。ＳＮＳはいじめの道具にも、相談窓口にもなる。文部科学省はＳＮＳを活用した相談体制の構築するために１７年度補正予算に２億円を計上した。

　神奈川県座間市で起きた殺人事件を受け、自殺願望やいじめなどの悩みを広く受け止めるのが狙いだ。ＳＮＳ相談は電話や対面に比べて心理的なハードルが低く、気軽に相談できる窓口になるかもしれない。

　ＬＩＮＥは長野県や情報法制研究所（東京都文京区）などと、いじめ相談の実証実験をしてきた。この実験では１０人のカウンセラーが３９０人の相談に乗った。京都大学の杉原保史教授（臨床心理士）は「テキストメッセージだけでも、子どもに寄り添うことはできた」と評価する。

　課題は相談内容の真偽や深刻さを判断しにくい点だ。ＡＩ技術を研究する鳥海不二夫東京大学准教授は「『死にたい』『もう死ぬ』といったメッセージだけでは解析し難い」と説明する。

　とはいえ、ＬＩＮＥ相談から電話相談への切り替えも難しい。ＳＮＳなら誰にも聞かれずに匿名のまま相談できるが、電話だと家族に相談内容を聞かれるリスクがあるためだ。

　そこでカウンセラーとの相談の前に、自動応答ＡＩの大雑把な対話で状況を整理する用途を検討する。鳥海准教授は「背景情報を一覧して状況を把握してから相談できるよう支援したい」とする。自動応答ＡＩは民間のコールセンターやＥＣサイトなどの顧客対応に導入が進んでいる。

最終判断は人、賛否両論で判断支援
　フェイクニュースやいじめの発生自体をＡＩが防ぐことはまだ難しい。だが発生後の分析や相談などの支援はできるようになりつつある。この過程でデータを蓄積すればより高度な支援も目指せる。

　ただ利用には慎重さも必要だ。例えばファクトチェックで記事をフェイクとした根拠を説明する記事を、ＡＩで作成するのは難しい。

　記事への評価は事実か虚かの２択ではなく、誤認や拡大解釈、ミスリードなど解釈に対する説明がいる。乾教授は「極めて高度な判断が含まれる。機械で置き換えていい判断ではない」と指摘する。

　そこで事実確認作業の論点整理を支援する。情報を探す際に、賛同する論点と否定する論点を一覧表示する。乾教授は「あらゆるウェブページはまだ難しいが、情報源を限れば賛否検索はできつつある」と強調する。

　ヘイトやフェイクが力をもつ要因の一つに熱烈な賛同者の支持がある。ヘイトなど偏った情報でも“一理”ある部分を支持者が強調すると、それに流されて巻き込まれる人も出てくる。ＳＮＳを炎上させて支持者を増やすテクニックの一つだ。賛否検索の適用範囲が広がれば賛否両方の根拠を把握し、公平な判断がしやすくなるかもしれない。

　ＬＩＮＥはＳＮＳカウンセリングを充実すためノウハウをまとめ、カウンセリングコンテンツを開発する予定だ。ただ座間市の事件のような犯罪者にカウンセリングコンテンツを悪用される可能性もある。

　ＬＩＮＥの江口清貴公共政策室長は「確信犯の悪用は最も難しい問題。簡単に答えは出ない」という。良質なコンテンツも技術も悪用され、広がる可能性がある。ＡＩ技術を磨くよりも難しい問題が横たわっている。
（文＝小寺貴之）