AIで書いた文章を見抜くツールの使用をめぐり米国で大論争が勃発中…そもそも使ってはいけないものなのか？
米国で人気のコンテンツ配信プラットフォーム「Substack」が先頃、AIで書かれた文章を検出するツールを導入し、ユーザーの間で物議を醸している。
因みにSubstack（サービス開始は2017年）は日本からも使えるが、恐らく国内では同様のサービスとしてnote（同2014年）の方が遥かに知名度が高いし、よく使われてもいるだろう。いずれにせよ両者の共通点は多いので、以下の話は日本でも参考になるはずだ。
【前編】→「バレたら大惨事」AI文章を見破る「Substack」の検出ツールに有料クリエーターが戦々恐々…購読ユーザーから「これは詐欺」と集中砲火へ
AIは単なるツールか、それとも深刻な背信行為か
その一方で逆に「なんでAIを使っちゃいけないの？」と開き直るクリエーターも多数存在するようだ。
つまり「たとえAIを使って書いたとしても、あるいはAIで丸ごと生成したとしても、結果的に出来上がった文章が面白ければいいじゃない。AI製の作品に購読料金を請求しても、それに対価を支払ってくれる人がいるなら、それで問題ないでしょう」という理屈だ。
こうしたクリエーター達はPangramのようなAI検知ツールの導入を「一種の魔女狩りだ」と反撃する。「以前はみんなが私の作品を気に入ってくれていたのに、それがAI製と知られた途端に掌（てのひら）を返される。迷惑この上ないし、プラットフォームの秩序が乱されるでしょ」というわけだ。
このように物議を醸す主な理由は、今が社会におけるAI導入の過渡期にあるため、それに対する認識が定まらないからだろう。
AIに賛成するクリエーターらは、これをかつてのワープロや電子辞書のような一種のツールと考えている。一方、それに反対する人たちはAIをもっと別の何か、あるいは「人間に匹敵する新たな存在」と考えているようだ。
この点について、Pangramを開発した（元グーグル技術者の）Max Spero氏はポッドキャスト番組「Hard Fork」の中で次のように語っている。
「AIを単なるツールと捉（とら）えるのは、恐らく抽象化のレベルとして間違っていると思います。今のAIは、どちらかと言えば『従業員』や『一緒に働く別の個人』に近い存在でしょう。今のインターネットを見ても、ボット（AI）によるトラフィックがすでに人間に追い着き、（両者の割合は）5対5程度になっています。（中略）
もしも友人から受け取ったメッセージやメールがAI製だと判明したら、私はめちゃくちゃ気にしますね。それは（Substackなどで）10ドルの購読料を払ったコンテンツよりもショックが大きいかもしれない。（人と人の間の）信頼関係に対する重大な裏切りだと思います」
「AIとの付き合い方」に関する合意が形成されていない
この発言は示唆に富むと同時に、その背後には、より一般的な問題が潜んでいることも感じさせる。
それは「私達はこれからAIとどう付き合っていくべきか」という、今世紀を規定する普遍的な問題だ。Substackのようなコンテンツ配信プラットフォームは、そうした問題全体から見れば氷山の一角に過ぎない。
たとえば、最近では学生はおろか大学教授や初中等教育の教師までAIに依存する傾向が強まっており、それら不正利用への対策も高度化している。
一部の学校や大学で導入されているAI検知ツールでは、学生がエッセイ（小論文）を書いた際の画面キャプチャを巻き戻して再生できる。それによって一文字ずつタイプ入力して書いたのか、それとも巨大なテキスト・ブロックを一瞬でコピペしたのかが分かり、一発でAI製だと特定できるのだ。
やがて、これらの学生が卒業して就職する際には、企業に提出するエントリーシートや履歴書（resume）、小論文など一連の文書を作成する必要が生じるが、今やそこでAIを使うのは一般化し、逆に使わない学生の方が少数派と化している。
これに対し企業の採用担当者らは「一種の不正行為」であるとして、その検出に躍起になっているが、そこで使われているのも、やはりAIによるAI検出ツールだ。
これに対しては、学生側でも当然反論はある。「私がやっているのは学歴・経歴詐称などの不正行為ではなく、ただ自分自身に関する情報を企業に最も効果的に伝えるための工夫に過ぎない。そこにAIを使って何がいけないのか？」という主張だ。
アクセルとブレーキを同時に踏む
一方、これらの学生を受け入れる企業の方でも今、「AIエージェント（働くAI）」を盛んに導入して、これをどう業務に活用していくかを模索している。
そうした中で就職活動の段階から、エントリーシートや履歴書、小論文の作成などAI利用に習熟したスキルをアピールする学生を、企業は新しい戦力としてむしろ高く評価すべきではないか--学生側から見れば、そんな主張さえ成立しそうだ。
そもそも、つい最近まで（と言うか、恐らく今でも）多くのコンシューマー雑誌やIT系メディアなどでは、「ChatGPTやGeminiのプロンプト・エンジニアリングで、メールや業務レポートを効率的に作成しましょう」といった特集を盛んに組んでいた。
逆にこれらのAIを使って業務を自動化できないビジネスパーソンは「時代遅れで非効率」と貶されるような風潮だったと思う。またビジネスパーソンの側でも、こうした特集記事を熟読し、自分の仕事にAIを役立てようと腐心していたはずだ。
ところが今やPangramのように強力なAI検出ツールが登場し、それによって検出されたAI製の文書作品などは読者から「詐欺行為」と糾弾され、AIで書かれたメールやメッセージは「（人間同士の）信頼関係に対する重大な裏切り」とまで非難されるようになった。
こうなると、学生も社会人も「AIを（勉強や仕事に）使うのは良い事か、それとも悪い事なのか？ 一体、私はどうしたらいいの？」と一様に悩んでしまうのではないか。
まずは率直に話し合うことから
本稿では、そうした悩ましい疑問にいきなり答えを出す事は（筆者の手に余るので）しない。が、恐らく多くの人たちは今、頭の中でそれについて真剣に考えているし、中には同僚や同級生、あるいは上司や教師・教授らと率直に話し合っている人達もいるかもしれない。
改めて断るまでもなく、勉強や仕事にAIを使うことは一概に禁止されるべきではなかろう。が、それをどんなケースでどのように使うべきか、あるいはどこまでの利用なら許容されるか、これら一連の合意が社会的に形成・確立されるまでには、相応の時間が必要となるだろう。
これは一見、それほど時間がかからないようにも思える。とうのも、どんな職場でも業務は何らかの領域に限定されているから、上司や同僚らと具体的に議論すれば「これはOK、これは駄目」といった線引きはすぐにできそうだからだ。
が、実際にはAIという対象の方が動く標的のように変化しているから、一旦使用ルールを決めても、また変更せざるを得ないような状況へとすぐに追い込まれるだろう。
AGIは今年末には実現？
ちょっと話は飛躍するが、先日米国のTIME誌がOpenAIの特集記事を掲載し、その中でサム・アルトマンCEOが「（これまでAI開発の究極のゴールとされてきた）AGIつまり汎用人工知能は今年末には実現されるでしょう」と（する旨を）何気なく述べている。
恐らくChatGPTやCodexなど自社製品に対する宣伝効果も期待しての発言であろうが、それを差し引いても技術開発のペースは驚くほど加速している。つい数年前まで、AGIに代表されるシンギュラリティ（技術的特異点）は2045年頃に訪れると予想されていた。
凄まじいスピードで状況が変化する中、私達はあらゆる既成概念や偏見を排除して、これからのAIと付き合っていく必要がありそうだ。
【関連記事】→中国「ムーンショットＡＩ」を起業…弱冠34歳で世界のテック大手を震撼させた「天才ヤン」の素顔
