人間とAIの思惑は重なるのか。 Photo by , under CC BY 2.0.


[JBpressの今日の記事(トップページ)へ]

映画「エクス・マキナ」は警鐘を鳴らす

 人間が行動する動機は、AIのアルゴリズムの動機とは異なる。人間は本能的に、自分自身と自分の身の回りの人間の安全や利益を守ろうとするだろう。

 しかし、AIのアルゴリズムではそれが保証されるとは言い切れない。その帰結として、AIが日常生活や企業活動に入り込む近未来においては、人間にとってしばしば不都合な真実が垣間見える。

「エクス・マキナ」(Ex Machina)。これはアリストテレスの『詩学』で批判的に語られている演劇技法のことだ。

 収束がつかないほどもつれた劇の最後の場面で突然、クレーンで吊られた役者(機械技掛けの神=Deus ex machina デウス・エクス・マキナ)が降臨して話をまとめてしまう急転直下の演出を意味する。

 もっとも、近未来の機械仕掛けの神(AI)は、必ずしも観客が期待するハッピーエンドをもたらすとは限らないかもしれない。

 2016年の夏に日本でも公開された映画『エクス・マキナ』(アレックス・ガーランド監督、2015年)は、人間とAIの行動の動機の違いについて鋭く問題提起を行ったという点でいずれ見直され、高く再評価されるだろう。

 世界最大のネット企業で働く、若きプログラマーが社内懸賞で当選して、山奥で研究三昧の隠遁生活を送る創業者の家に1週間招かれる、というところからこの映画のストーリーはスタートする。

「Blue Book」(青色本)という検索エンジンを開発し巨万の富を築いた伝説的な天才創業者の家で、若いプログラマーは可憐で美しきアンドロイド・エヴァ(Ava)に出会う。

 実は創業者の家は別荘にカモフラージュされた最新鋭かつ極秘のAI研究開発拠点であり、若きプログラマーに課された役割はエヴァにチューリングテスト(注:アラン・チューリングによって考案された、機械が知的であるかどうかのテスト)を施すことだった。

 純朴な性格のプログラマーはテストの過程を通じて急速にエヴァに惹かれていき、やがて粗暴な性格(実はプログラマーの勝手な思い込み)を見せ始める創業者の家からエヴァと駆け落ちすることを計画し始める・・・。

 興味深いのは、ストーリーの最初の方で創業者がプログラマーにこう打ち明ける場面だ。

 自分は、政府から世界中のありとあらゆるスマートフォンやパソコンのカメラやマイクに侵入して、検索データとそれに付随するユーザーの顔の表情や会話まで収集する「権限」が与えられている、これらのデータを解析してアンドロイドに人間のような外観だけでなく、行動や動き(つまりアルゴリズム)を与えているのだ、と。

 人間が行動する動機とAIのアルゴリズムの動機が一致すれば、ありきたりな恋の逃避行となる。しかし、エヴァの仕掛けた行動はプログラマーの抱く淡いロマンスとは全く違っていた。

 それは若きプログラマーの純粋な心を巧みにコントロールし、創業者と仲違いをさせて、その隙に森の中のガラスの城(創業者の家=エヴァにとっては牢獄)から脱出することだったのである。

「デジタルカルテル」では暗黙の合意は成立しない

 映画の話から現実の世界へ戻ろう。

 AIの活用で企業活動が効率化・最適化された結果として、人間(お客さま)に不利益を与えるケースは現実に出始めている。価格決定アルゴリズムを使い、企業が利益の最大化を図る「デジタルカルテル」がそれだ。

 代表的な事例として、ライドシェア大手のウーバーテクノロジーズ(以下、ウーバー)の価格アルゴリズムをめぐる米国での集団訴訟がある。

 よく知られているように、ウーバーの乗車料金については、ウーバーが提示する料金に沿ってお客さまに請求される。個人事業者であるドライバーが勝手に料金を変更することはできない。したがって、混雑時には料金が平常時の数倍に跳ね上がることもある。

 価格決定アルゴリズムが決定した提示料金にドライバーが従うことで、価格が高止まりし(つまりドライバー間での価格カルテルを促し)、ウーバーが不当な余剰利益を得ているのでは、というのが原告団の主張とされる。

 ただし、現行法制では企業や個人に競争制限的行為を行う明確な「合意」があることをカルテルの成立条件としているため、利用データなどをベースにAIが(勝手に)価格調整をした場合には、こうした「合意」の存在を証明することは理論的に不可能ということになる。

 工場の在庫量を最適化するためにAIを使ってサプライチェーン全体を最適化するアパレル製造小売業(SPA)のシステムも、在庫量の調節を目的とした廉価販売(いわゆる)を排除するという点で同様のケースと認定できる。

 いずれにしても「合意」のないものは法律的に取り締まることはできない。

自動運転車の事故が示唆する「人間とAIのやりとりの未熟さ」

 IoT時代の「行動する動機」という側面では、企業の経済活動にまつわるものだけではなく、人間とAIの安全や安心に関する認識や判断にも大きな影を落とす。

 これについても、ウーバーの自動運転車が米アリゾナ州での試験運転中に起こした横転事故が注目される(参考:www.jiji.com/jc/article?k=2017032600205)。

 事故を起こしたのはスウェーデンのボルボ・カーズ(以下、ボルボ)と共同開発したSUVだ。試験運転中のウーバーの車両に過失はなく、高速道路上で事故を起こした相手の運転手(人間)が道を譲らなかったのが原因とされる。

 ウーバーは「自動運転モード使用中に起こった事故だが、客は乗っていなかった」というコメントを発表した。

 しかし、安全で安心な自動運転の実現に向けて、生身の人間とAIのアルゴリズムで動く自動運転車とのやり取りは大きな課題であろう。

 実はウーバーは昨年、カリフォルニア州でも同じボルボのSUVの自動運転車を使った試験的なサービスを始めていた。

 ところが公道走行に必要な認可の取得を怠っていたため、州当局に車両登録を剥奪され、仕方なく規制が緩いアリゾナ州に試験サービスの場所を移した、という経緯がある。

 これら一連の経緯を見ると、ウーバーは「人間とAIのやり取り」についてかなり「性善説」的な立ち位置で、ドライバー人件費のかからない自動運転導入に向けてリーンスタートを始めていることが透けて見える。 

 人間が行動する動機はAIのアルゴリズムの動機とは異なることを前提にし、「性悪説」な立場に立って開発のロードマップを描いていかないと、やがて痛い「しっぺ返し」を食うことは想像に難くないだろう。

データの世界では全てが必然、と映る

 再び、話は映画『エクス・マキナ』に戻る。

 最後のシーン、創業者を殺し、若いプログラマーを創業者の家に閉じ込めて、まんまと人間の住む大都会に足を踏み入れることに成功したアンドロイド・エヴァ。まるで何事もなかったように雑踏の中に溶け込んでいく。

 この映画を注意深く観ていくと、いろいろなことに気づくだろう。

 プログラマーが創業者の家に呼ばれたのは社内懸賞で当選したからではなく、彼自身のウェブ検索履歴で「優れた倫理規範」を備えた、チューリングテストに一番理想的な人間と判断されたから。チューリングテストで本当に「テスト」されていたのはエヴァではなく、プログラマーの方だったこと。エヴァはプログラマーが来ることをさまざまなデータからすでに知っており、機械学習によってプログラマーの性格や趣向の解析精度を上げて行き、彼を籠絡することに成功した・・・など。

 データの世界では全てが必然、と映る。そしてAIのアルゴリズムは機械が行動する動機を作り出す。

 その一方で、人間が行動する動機を生理学的・経済学的・社会学的・認知心理学的という4つの側面から見ていったとき、後者になればなるほど、AIのアルゴリズムとは乖離が大きくなっていく。

 IoT時代のマーケティングはどう変わっていくのであろうか。

 ひとつの方向性として、生理学的・経済学的な側面よりも社会学的・認知心理学的な側面の方がより重要になると言われる理由はここにある。

筆者:朝岡 崇史