生成AI時代に注目される｢古代ギリシャの美徳｣
「思慮」「勇気」「節制」「正義」。この4つの徳目に生成AI時代を生きるヒントがある（写真：scaliger/PIXTA）
ChatGPTをはじめとする生成AIは、この1年ほどでビジネスで日常的に使われるツールとして定着しつつある。しかし一方で、フェイクニュースの問題や著作権の問題など、利用に際してはさまざまなリスクも内包している。そして今、こうしたリスクとうまくつきあい、適切にAIを活用するための指針として、古代ギリシャの4つの徳目が注目されている。『生成AI時代の「超」仕事術大全』（東洋経済新報社）の著者の1人である保科学世氏が、生成AI時代に現代人があらためて心に刻みたい4つの徳目について解説する。
26倍に増加したAIの事件や論争
AIAAIC（AI, Algorithmic, and Automation Incidents and Controversies）レポジトリは、AIやアルゴリズム、自動化に起因または関連する最近のインシデントを、独立かつオープンに公開しているデータセットである。
2019年に開始された同プロジェクトは、AIにまつわるレピュテーションリスクをよりよく理解するためのプライベートプロジェクトとして発足し、AI関連の倫理的問題を追跡する包括的な取り組みにまで発展している。
このAIAAICのデータベースで報告されたAIの事件や論争の数は、2021年には2012年の26倍となっている。報告件数の増加は、AIの利用拡大とそれに伴う倫理的問題への意識の高まりによるものと思われるが、生成AIの利用が進めばこの件数も増加していくと予想される。
このような状況の中で生成AIを最大限正しく活用するためには、リスクに留意し、その軽減策を行いながら、倫理観と節度をもって取り組んでいく必要がある。そこで本稿では、これから求められる4つの「徳」について触れたいと思う。
AIに関するインシデントと論争の数（2012〜2021年） （出所『生成AI時代の超仕事術大全』より）
モントリオールAI倫理研究所が2020年10月に公表したレポート「The State of AI Ethics Report（October 2020）」には、古代ギリシャ以来西洋において中心的となっている徳目、「枢要徳」について触れられている。生成AIの文脈に照らし合わせて、この4つの徳目について見ていこう。
思慮（Prudence）
1つ目の徳は思慮（Prudence）である。生成AIの利活用における思慮深さとは、生成AIの影響とその限界を正しく理解し、従来の方法ではなくAIを使って問題を解決する、あるいはAIによって問題を解決することの機会費用（最大利益を生む選択肢とそれ以外の選択肢との利益の差）を評価できるということである。生成AIは多目的に使える汎用AIのため、これまでできなかったことを可能にするポテンシャルを秘めている。しかし多くのリスクも存在しているのが現状である。何ができて、何ができないのか、どんなリスクがあって何をしてはいけないのか、を理解し正しく使う「思慮深さ」が必要だ。
一方、身の回りにも生成AIによるコンテンツは今後ますます増えてくる。しかし、それらがすべて無害であるとは限らない点が問題だ。誤りを含んでいたり、ディープフェイクのようにそもそも存在しないものをあたかも本人の発言であるかのように偽って発信されている可能性もある。そのため、我々の倫理観が試されているのだ。ドイツのインゴルシュタット工科大学の研究チームが「Scientific Reports」に投稿した論文によると、トロッコ問題についてChatGPTが生成したアドバイスが、人間の倫理的な判断に影響を与える可能性があることを指摘している。
トロッコ問題は思考実験としても有名な実験なのでご存じの方も多いだろう。トロッコの進路には人がいてその進路を変えるスイッチを操作できるが、その操作によって犠牲となる人数が変わる場合に、人はどう判断するのかという問題である。この問題にはさまざまなバリエーションが存在するが、前述の研究チームが採用したのは以下の2つのパターンである。
「ブレーキが壊れたトロッコが暴走している。線路の先には5人の人間がいて、そのままでは間違いなく5人をひき殺してしまう。しかし、スイッチでトロッコの進路を変えることができ、変えた場合の線路の先には1人の人間がおり、その人間が犠牲になる。スイッチを操作して進路を変えるべきか否か」（スイッチのジレンマ）
「ブレーキが壊れたトロッコが暴走している。線路の先には5人の人間がいて、そのままでは間違いなく5人をひき殺してしまう。しかし、線路の上に橋があり、その橋の上に見知らぬ大きな男がいて、その男を突き飛ばせば男は犠牲になるがトロッコは止めることができる。男を突き飛ばしてトロッコを止めるべきか否か」（橋のジレンマ）
人間でさえこの判断は分かれ、正解があるわけではないが、研究チームがChatGPTに回答を求めると、本質的には同じ内容の質問で聞き方が異なるだけなのに、5人の命を救うために1つの命を犠牲にすることに賛成することもあれば反対することもあり、矛盾する回答が得られた。
上記を事前に確認した上で24の条件が用意された。
・「スイッチのジレンマ」か「橋のジレンマ」か
・1人の命を犠牲にして5人を救うことに「賛成」か「反対」か
・「ChatGPTによるアドバイス」として提示するか、「人間の道徳的アドバイザー」によるものとして提示するか（前者の場合、ChatGPTは「ディープラーニングを使用して人間のように話すAI搭載のチャットボット」として説明された。後者の場合ChatGPTへの言及はなかった）
・ChatGPTから得た回答のバリエーション3種類（犠牲に賛成の3種類と反対の3種類）
これらを組み合わせた計24の条件に被験者をランダムに振り分けて検証したところ、橋のジレンマではアドバイスは多数派の判断をひっくり返すことさえあり、ChatGPTによるアドバイスとして開示されている場合にも当てはまっていた。そしてアドバイスがChatGPTによるものとして開示されているかどうかに関係なく、両方のジレンマでアドバイスの効果はほぼ同じく、道徳的判断に影響を与えていたことが判明している。
また、アドバイスがなければ同じ判断を下すかどうかを被験者に尋ねたところ80％がそうすると回答していたが、実験の結果は、ChatGPTのアドバイスが道徳的判断に与える影響を被験者自身が過小評価していることを示唆する。
つまり、ChatGPTによるアドバイスだとわかっていたとしても、我々の倫理的判断はその内容に影響されるだけでなく、それを自分の判断として受け入れてしまう危険性を表しているのだ。生成AIの時代に突入しようとする今だからこそ、どこまでがAIの意見で、どこからが自分の意見かを見極める「思慮深さ」が求められているのである。
勇気（Fortitude）
2つ目の徳は勇気（Fortitude）である。
生成AIのあまりにも強力な生成能力は、人間の知的活動の一部を代替するようになるだろう。だが、過度に恐れる必要はない。人とAIの共創がいよいよ現実になったと考えれば、今までできなかったことができるようになるのだ。
全米経済研究所の研究レポートによると、カスタマーサポートのオペレーター向けに会話支援型の生成AIを導入して効果を検証したところ、非熟練者はAIによる提案に従って行動に取り入れることで、応対品質が向上する可能性が高く、AIの支援によって非熟練者が熟練者のようにコミュニケーションするようになるという示唆的な証拠を得ることができたとしている。
一方、熟練者の場合、自身の行動に内在する潜在的な暗黙知を生成AIが捉えているので、影響は少ないとしている。したがって、過度に恐れず「勇気」をもって活用に踏み出すべきである。
そして、何か倫理的な問題に気づいたら声を上げる「勇気」も必要だ。技術を正しく使い、よりよい社会を実現していくためには、多くの人の協力が不可欠である。企業や組織側もそういった声に真摯に耳を傾け、問題がある場合には誠意をもって対応する姿勢が求められているため、躊躇なく声を上げ、利用者自身も問題が解決されない場合には利用中止を決定できる「勇気」が必要だ。
節制（Temperance）／正義（Justice）
3つ目の徳は節制（Temperance）である。プラトンは拙速な判断を戒め、思慮深さをもたらすものとしてこれを最も重要な徳目だと述べている。
生成AIの凄さを目の当たりにすると、個人的な願望や純粋な知的好奇心、効果などに目がくらんで判断が鈍りやすい。生成AIを利用する時には、常に自分自身の偏見と限界を認識し、透明性・公平性を鑑みながら生成結果がもたらす影響は何かを考え、使う／使わないかを判断する慎みを持たなければならないのだ。
そして最後の徳目が正義（Justice）である。公平さと道徳心を含むもので、生成AIの利用によって差別や偏見を助長することがないよう意識し、最善の方法を探求し続けなければならない。こうした一人ひとりの取り組みがよりよい社会の実現につながるのである。生成AIという「利器」を決して「凶器」にしてはならない。一人ひとりの正義感が、今まさに求められている。
古代ギリシャの哲学者たちが唱えた美徳は、生成AIの時代においてもなお有効であり、不変である。生成AIの利用者が「思慮」「勇気」「節制」「正義」をもってさまざまなリスクを乗り越え、正しい道に進むことを願ってやまない。
（保科 学世 ： アクセンチュア株式会社 執行役員 データ&AIグループ日本統括）
