ヤフーが個人への誹謗中傷等を目的とする投稿への対策強化！深層学習を用いた自然言語処理モデル（AI）の技術提供や検討会を設置

ヤフー（以下、Yahoo! JAPAN）は、個人に対する誹謗中傷等を内容とする投稿への対応に関し、サービスをユーザーにより安心して使ってもらうため、現在「Yahoo!ニュース コメント」において導入している深層学習を用いた自然言語処理モデル（AI）の、さらなる活用などの対策強化を進めて行くと発表した。

■もう誹謗中傷行為は見逃さない！安心して利用できる環境を目指す
Yahoo! JAPANでは、多数の投稿系サービスを提供しており、多くのユーザーが手軽に利用できる場を提供すると同時に、安心して利用できるよう、サービスの健全化にも力を入れて取り組んでいるとのこと。誹謗中傷等の他人を傷つける表現行為は許されないものであり、Yahoo! JAPANでは、以前より誹謗中傷等の内容を含む投稿行為を禁止し、ユーザーに遵守をお願いしている。

また、ユーザーへの周知・啓発などにより当該投稿の事前抑止に努めるとともに、専門チームによるパトロールや、深層学習を用いた自然言語処理モデル（AI）を利用して不適切な投稿対策をしてきた。「Yahoo!ニュース コメント」においては、深層学習を用いた自然言語処理モデル（AI）による検知を通して、1日平均約2万件の不適切な投稿（記事との関連性の低いコメントや誹謗中傷等の書き込みなど）の削除をしていく。今般、大変痛ましい事態についての報道があったことを踏まえ、Yahoo! JAPANはこれからも対策を強化して対応をしていくとのこと。

今後は、こうした深層学習を用いた自然言語処理モデル（AI）について、他の投稿系サービス事業者に対する技術提供を進めていくと同社。

さらに、これらの問題への対処にあたっては、法的課題や実務的課題があると認識しており、これら課題をデジタル時代に即した共通規範に基づき解決すべく、議論を行う場である検討会を2020年6月中めどに設置する。本検討会においては、法律家のみならず幅広い分野から有識者を募り検討を行うこととし、その結果を公表していくとしている。

■Yahoo! JAPAN

■ITライフハック
■ITライフハック Twitter
■ITライフハック Facebook

■カルチャーに関連した記事を読む
・パソコン版LINEでビデオ通話中にバーチャルな背景を設定できる「背景エフェクト」
・ボンドで貼るだけですぐに立体マスクが完成！「ボンド 裁ほう上手 スティック」を使用した「縫わないマスク」の作り方と型紙を公開
・自宅でジャムづくりを体験！「オンラインいちごジャム作り教室」を5月31日に開催！いちご農家が教えるいちごを使った本格ジャムを作ろう
・6月1日よりほっともっとの『のり弁当』がグレードアップ！白身魚フライ20％増量でソースも『プレミアムソース』と『だし醤油』から選択できる
・首都圏の巣ごもり延長でレシピを軸に食品メーカー6社が初の結集！毎日の食事づくりを応援する「＃うちで食べよう」Twitterレシピ企画を開始