by Dung Anh

人工知能(AI)を用いて人間のように自然な文章を自動で作成できるテキストジェネレーターを、AI研究組織のOpenAIが開発しました。このようなAIを用いたテキストジェネレーターが流行することとなれば、誰もが手軽にフェイクニュースを作成できるようになってしまうということで、アレン人工知能研究所が「ニューラルネットワークを用いて生成されたフェイクニュース」を確実に検出するための試みに取り組んでいます。

Grover - A State-of-the-Art Defense against Neural Fake News

https://grover.allenai.org/



This terrifying AI generates fake articles from any news site

https://thenextweb.com/artificial-intelligence/2019/06/24/this-terrifying-ai-generates-fake-articles-from-any-news-site/

OpenAIが、AIを用いた「GPT2」と呼ばれる新しいテキスト生成用のAIモデルを開発しました。GPT2はニュースおよびフィクションを自動生成可能なAIモデルで、人力で入力された1文などを元に、AIが自動で文章を出力してしまうことができるという驚愕のツール。登場時にはあまりにも高精度のテキストを生成できてしまうということで、開発者たちが「あまりにも危険過ぎる」と論文の公表を延期するほどでした。

AIによる自動文章作成ツールがあまりにも高精度のテキストを簡単に作り出してしまうため開発陣から「危険過ぎる」と問題視される - GIGAZINE



GPT2のようなツールを用いてフェイクニュースが作成されてしまった場合、その真偽を見分けることが人間には難しくなるため、アレン人工知能研究所は「ニューラルネットワークを用いて生成されたフェイクニュース」を検出するための「Grover」というAIモデルを開発しました。研究チームは、「我々の研究は驚くべき結果を示しています。ニューラルフェイクニュースを検出するための最良の方法は、テキストジェネレーターでもあるこのAIモデル(Grover)を使用することです」と記し、一般的に、AIを用いたテキストジェネレーターは、同じくAIを駆使して生成されたフェイクニュースを検出するのに最も有効であったとしています。

AIを用いたテキストジェネレーターは、自身の習慣や癖、特徴、さらにはどのようなAIモデルを利用しているかや、公共利用可能なニュースなど「どのようなデータで訓練されたか？」などを熟知しています。この性質を用いることで、Groverは他のAIによって生成されたフェイクニュースを識別できるようになるとのこと。その識別精度は非常に高く、ニューラルネットワークを用いて作成されたフェイクニュースへのアクセスが制限されている場合、つまりはAIによるフェイクニュースのサンプルが少ない場合であっても、Groverは「人間が書いたニュース」と「AIが書いたフェイクニュース」を92％以上の正確さで区別可能だそうです。



by Jason Leung

以下のページ下部には、実際にGroverを使ってフェイクニュースを自動生成することが可能なジェネレーターが埋め込まれています。入力可能な項目は「Domain(ドメイン)」「Date(日付)」「Authors(著者)」「Headline(見出し)」「Article(本文)」の5つで、それぞれの項目の隣に配置された「Generate」をクリックすれば、Groverが自動で各項目に当てはまる情報を設定してくれます。本文横の「Generate」をクリックすれば、何度でも見出しに合った内容のフェイクニュースを生成できます。

Grover - A State-of-the-Art Defense against Neural Fake News



例えばページを開いた際に表示されていたのは、「なぜビットコインは素晴らしい投資なのか」という見出しのGroverが生成したフェイクニュース。記事の出だしは「読者のほとんどが知っているように、私は楽観主義者です。この信念は私の人生において一貫しており、さまざまな投資にも当てはまるものです。よって、私はビットコインやイーサリアムのような暗号通貨の成功に興味をそそられています」といったもので、とてもAIが自動生成したものとは思えない流ちょうな文章となっています。

また、Groverは記事本文を書かなくても、ドメインや見出し、著者名などを指定すれば、その情報を基にフェイクニュースを生成することができます。つまり、ドメインに「thenextweb.com」を入力し、著者に「Tristan Greene」と入力すれば、The Next Webの記者であるTristan Greeneさんが書いた記事かのようなフェイクニュースを自動生成してくれる模様。

例えば以下のように入力欄に特定の記事の情報を入力して、本文横の「Generate」をクリック。



すると、30秒ほどでGroverがフェイクニュースを生成してくれます。



続いて、この自動生成されたフェイクニュースをコピーしてから「Detect」をクリック。



赤枠部分にあるテキストボックスにコピーしたフェイクニュースをペーストして、「Detect Fake News」をクリック。



すると、Groverが入力したニュースが人間の手で書かれたものか、AIにより作られたものかを判別してくれます。画面上には「written by a machine」と表示されており、機械(AI)が生成したフェイクニュースであるというわけ。基本的にGroverはこういったプロセスでニュースがAIにより生成されたものか否かを判別するわけです。



実際にGroverを使ってみたThe Next Webの記者であるGreeneさんは、「私の個人的な文章のニュアンスが心無いマシンにより画面上に出力される様子を見るのは、非常に不安な気持ち」と率直な感想を記しています。