東大、ChatGPTなど生成系AIに見解 「人類はこの数ヶ月でルビコン川を渡ってしまったかもしれない」

東京大は2023年4月3日、対話型AI「ChatGPT」や作画AI「Midjourney」などの生成系AIについて、「人類はこの数ヶ月でもうすでにルビコン川を渡ってしまったのかもしれない」などと見解を表明した。

学生や教職員に対し、急速に発展するテクノロジーとの向き合い方を説いている。

「『知ったかぶりの人物』と話しをしているような感じ」

東大は3日、学内ポータルサイトで、太田邦史理事・副学長名義で生成系AIへの指針を表明した。

太田氏は、生成系AIは「平和的かつ上手に制御して」利用すれば、人々の幸福に大きく貢献する一方、課題も山積しており、今後の社会への悪影響を懸念する。

それでも、「多くの分野の学者が社会の大変革を予感しており、原子力やコンピューターの登場ぐらいのインパクトがあるだろうと語っています」と期待感をにじませ、学生や教職員がどのように向き合うべきか考えを述べている。

ChatGPTは質問に的確な回答をしてくれる一方、「書かれている内容には嘘が含まれている可能性があります。非常に話し上手な『知ったかぶりの人物』と話しをしているような感じです」と注意を促す。

使いこなすには相当の専門的知識が必要で、回答の信ぴょう性の確認は不可欠だとする。加えて、新しい知見に関する分析や記述はできず、「ChatGPTが出たからといって、人間自身が勉強や研究を怠ることはできない」と安易な丸投げは難しいとした。

質問の中身も注意が必要だ。「ChatGPTのシステムに蓄積され、学習される可能性があり、原理的には送信した内容を他者が引き出すことも可能だと思った方が良いです」と警鐘を鳴らし、

「基本的に、業務で知り得た機密情報、未公開の発明内容、研究費などの申請内容、入学試験問題の原稿、個人情報などは質問に含めないことが求められます。また、設定がオプトイン（申請すれば送信情報が取り込まれる）かオプトアウト（申請すれば送信情報が取り込まれない）になっているかを確認した上で、利用することも必要です」

と呼びかけた。

教員のレポート確認がより大変に

著作権の問題にも言及している。

AIの学習素材として画像を使われた作成者が、「知らないうちに著作権を侵害されたとして問題提起を行っています」として生成系AIの将来的な訴訟リスクを危惧した。

学位論文やレポートは、東大では生成系AIのみを用いての作成は禁止しているものの、完璧に見破るのは困難だという。「論文やレポートなどの書面審査だけでなく、対面でのヒヤリング審査・筆記試験などを組み合わせ、本人が本当にその論文を作成したのかについても吟味する必要が出てきます」と教員に対応を求めた。

課題や懸念は多いものの、東大は「生成系AIを有害な存在であるとして利用禁止する（イタリア、米国の事例など）だけでは問題は解決しません。秘密裏に開発が進行する可能性や、地下で悪用されることも懸念されます」との立場だ。

「人類はこの数ヶ月でもうすでにルビコン川を渡ってしまったのかもしれないのです」ともはや後戻りできる状況ではなく、

「本学構成員の皆様は、この変化を傍観するだけでなく、大規模言語モデルに『創発』（能力が突然飛躍的に向上すること）が起きた原因を考察したり、生成系AIがもたらす様々な社会の変化を先取りし、積極的に良い利用法や新技術、新しい法制度や社会・経済システムなどを見出していくべきではないでしょうか」

と訴えた。学内では、具体的な活用方法などについて議論の機会を設ける方針だという。