最終的にAIは人類を滅ぼすのか？ 人工知能研究者が導き出した「意外な答え」
遠くない将来、人間の能力を超えることが確実視されているAI（人工知能）。本当にAIは、私たち人間の仕事をすべて奪ってしまうのだろうか？ それでもなお、私たちに残される仕事とは？ 人工知能研究者・北海道大学大学院教授で、著書に『10年後のハローワーク』がある川村秀憲氏が予測する。
AIが人類を超えたときに起こる2つの問題
よく聞かれる質問に、「AIが人類を滅ぼしてしまうのではないか」というものがあります。
もしもAIとロボットや兵器が一体化されるのであれば、あるいは物理的には可能なのかもしれません。
しかし、AIはそれ自身が人間からの命令を受けて動くものですし、同時にAIやロボットを構成している資源も、結局は人間によって作られ、供給されているものです。
従って、AIによって人間が滅亡してしまえばAIやロボットたちもまた立ちゆかなくなることは明らかで、「AIが積極的に人間を滅ぼす」という結論は、いくらAIが発展しても出てこないのではないでしょうか。
ただこの設問から、私はふたつの重要な問題を考えたいと思うのです。
ひとつは、AI自体の能力が人間を超えていくことが確実ななかで、AI自体の自己再生産をどこまで進めるべきなのか、という問題です。
そしてもうひとつは、AIが学習すべきオリジナルのデータ、つまり人間による成果物がなくなる日は来るのか、という問題です。
生成されるデータの質が劣化していく？
AIには意思がないため、人間が止めない限り学習をやめることはありません。その結果、できる限り要求に応えられるよう、学習を重ねていくことになります。
絵を描いてくれる生成AIは、「Stable Diffusion」（ステイブル・ディフュージョン）など、すでに多数開発されています。そこで、人間のユーザーが描いてほしい絵を指定するとしましょう。
ここでの人間の要求パターンはおそらく、「あたかも人が描いたように見えるけど、ほかとは違うオリジナルのもの」ということになるでしょう。誰かの絵をそのままコピーするわけにはいかないからです。
そこでAIは、指示された絵と似た絵を学習したうえで、意図的にノイズを加えたり除去したりしながら、あたかもオリジナルのような絵を生成することになります。
では、そんなプロセスが常識となったあと、AIが生成した絵ばかりがだんだんと増え、100％人が描いた絵が減っていくとしたら、どうなるでしょうか。
AIが学習するデータのうち、実際に人間の手になるものの比率が下がってしまい、AIが描いたデータを別のAIが学習、再生産する事態になってしまいます。このような場合、生成される画像データの品質が劣化していくという研究もあります。
今後も生き残るのはどんな仕事か？
これは、文章の場合も同じです。
現時点でAIが学習しているのは、主としてインターネット上のテキストデータです。
著作権保護の問題はひとまず棚上げしても、もしもAIがたいていの文章を人間よりも正確に、効率よく書いてくれるようになるのであれば、人間によって作られる文章自体が減っていくことは避けられません。
しかしその結果、当然、品質は下がっていきます。
生成AIに条件を与え、新聞記事のような文章を生成してもらうことはできても、世の中のどこに記事にしたいような取材対象があるのかを探ったり、そこに実際に出向いて人の話を聞いたり状況を調査したりすることは、結局、記者にしかできません。
その記事をベースに文章を書き換えることは技術上できても、そこで生成された記事をさらに学習して……というサイクルにはまり込んでしまうと、事実や知りたい内容からはどんどん離れてしまうでしょう。
あるいは、こうした状況を利用して、意図的に間違った情報や、特定の勢力に有利な情報を紛れ込ませることもやりやすくなってしまいます。
こんな人にはいつの時代も需要がある
私はまず、こうしたAIによる自己再生産の問題には、今後基準の設定も含め、法令面でコントロールしていくことが大切になると考えています。
同時に、この問題が認識されればされるほど、「人の手による価値あるコンテンツ」の重要性が、再び増していくのではないかと思います。
結局、私たちがAIに期待するのは「人が作ったかのような成果物」です。そのためには、人がどんなデータや文章を好むのかを、定期的に検証しなければなりません。
AIがどのように学習しているかについても同じで、人による「品質チェック」は、必ず残るニーズになるでしょう。
言い換えれば、今後も生き残る仕事、あるいはクオリティは、AIに学習される価値のあるもの、と定義できるかもしれません。AIによる学習は伝言ゲームに似ていますが、伝言される内容を作る人には、いつでも需要があることになります。
結局、その価値を作り出せるのは人間しかいません。
そして人間がそれをわかっている以上、AIが人間を滅ぼすことはないはずです。
