懸念されていた事態が現実のものとなってしまいました。

 米国アリゾナ州で、ウーバーが実施していた自動運転実験で事故が発生し、犠牲者が出たのです。

 報道によると、現地時間の3月18日午後、アリゾナ州テンピ近郊で実施されていたウーバーの試験運転走行中、横断歩道ではない場所を自転車を押して渡っていた女性が車に接触してしまいました。

 ウーバーの試験車は完全自動運転モード中で、減速した形跡は全くなく、時速約65キロで進行、歩行者をはねてしまったという経緯であるようです。

 自動運転モードとはいえ、当然ながら試験車には同乗者がありました。しかし、危機回避の適切な行動は取られなかった。

 ウーバーはただちに、カリフォルニア州サンフランシスコやアリゾナ州フェニックス、またカナダのトロントなどで実施していた自動運転車の試験走行をすべて中止しました。

 米国ではカリフォルニア州など、すでに規制緩和が進んで自動運転車の公道走行が部分的に許可され始めたエリアもあり、今回の事態は大きな波紋を投げかけています。

 非常に大まかに言って、現状の「自動運転」は自動車が勝手に走行するという水準にあり、これはモノレールその他の軌道交通機関では、すでに当の昔に実現されていることで、実は取り立てて問題にするようなことではありません。

 日本国内でも、博覧会会場などとして設定された「未来交通」の路線を、駅から駅へ、自動的に運転する路線が運行されています。

 これらの特徴は、軌道上に歩行者やほかの車などがいないこと、ホームドアなどで厳密に乗客と軌道とは仕切られ、十分な安全が確保されているということでしょう。

 逆に言えば、既存のモノレールなどの路線では、センサーによって危険を感知し、自動的に停車する装置などは取りつけられているはずです。

 これはJR線などでもときおり経験することでしょう。線路内に人が進入した可能性がある危険信号を感知しましたので列車は急ブレーキをかけました、という車内アナウンスを耳にしたことがある人は少なくないはずです。

 この場合、JR線でも新都市交通でも、極めて限られたエリア、決まった軌道上の特定のチェックポイントで危険信号が感知されたとき「急停止」その他の安全アクションが取られることになります。

 逆に言うと「想定外」のリスク、突然横方向から歩行者や自転車が飛び込んで来るといった事態は、モノレールなどの場合はまず発生しないので、そのようなセンサーもリスク対策も一切取られていません。

 対策や考慮の対象外ということになります。

 今回のウーバー事故は、報道される状況証拠から、自動運転車が全く歩行者やリスクを感知しないまま自動的に進行したものと思われます。何も考えずに猪突猛進すれば、前方の物体に衝突するのが当然で、事故は必然的に起きたと言うしかありません。

 すでに発生しているテスラの自動運転車事故も、今回のウーバー事故もそうですが、商品化を焦ったり、実験成功の情報発信で企業資産価値を上げたり、という拙速と言うか姑息とさえ言える経営判断によって事故が起きてしまっている。

 危険回避センサー技術という観点では、いまだモノレール程度の自動運転と大差ない代物を、広い国土を利用してあちこちの公道で走らせ始めているわけです。

 かつ「物議をかもす」程度の報道からも明らかなとおり、米国やカナダでは、自動運転に伴う事故リスクや、そこでの保険商品のあり方、法規制その他の落ち着いた制度設計の議論がほとんどなされていません。

 何かと米国に右向け右のどこかの国でも、そんな話はついぞ耳にしないでしょう。

 すなわち、自動運転車が何らかの事故を引き起こしたとき、どのような責任が問われるか。リスクに備えてどのような法制度や、新たな保険商品を準備すればよいか・・・。

 一部省庁の専従には意識の高い人がありますが、国全体として議論の期が熟しているとは到底言えません。

 これを強調するのは、本連載でも今まで幾度も記してきたように、ドイツを中心にEUでは自動運転に関する法制度、もっと言えば、AI駆動されるシステムが、何らかの被害を人に与えた場合の責任の所在を問う「ロボット法」が、大枠すでに確立されているからにほかなりません。

[JBpressの今日の記事(トップページ)へ]

責任主体としての「ロボット法人」

 EUでは「ロボット法人格」を認める法制度整備が急速に進んでいます。

 まるで手塚治虫のマンガ「鉄腕アトム」のような話と言っても、すでにいまの若い世代には通じないのかもしれません。

 人間の心を持つロボット少年アトムの悲劇を描いた原作マンガは、テレビアニメーションとしては軽い冒険活劇としてヒットしました。

 しかし、もはや漫画の中の世界ではなく、もっと落ち着いてリアルに考えるべき対象です。

 例えば、福島第一原子力発電所事故が発生し、責任主体として東京電力という「法人格」が、重い司法上の責任を問われている。これは全く普通です。

 しかし、東京電力さんという人がいるわけではなく、切れば血が出る生身の体があるわけではない。

 でも東京電力には資産があり、損害賠償の必要が発生すれば、会社がその主体として責任を負うことになる。もちろん、並行して企業の経営に責任をもった生身の個人が訴追される場合もあり得る。

 全く同様のことを、一定以上自立的に作動するシステムに関しても、それ自体を「ロボット法人」として責任の主体とみなす必要があるという、手堅い判断をEU〜ドイツはすでに下しています。

 自動運転車はその典型として分かりやすいですが、ほぼ自動的に動くという意味では、産業用ロボットなどの自動システムの方が、2018年時点ですでによほど多く、実用化されています。

 今回の事故は、ウーバーの試験走行ですから、責任は全面的に会社にあると判断される可能性が高いでしょう。

 しかし、自動運転中とはいえ、その車に乗っていた運転しない運転者、手動モードに切り替えたなら、自分でハンドルを操作して危険を回避できた可能性のある人には、どのような責任がかかるのでしょうか?

 ここで言う「責任」は、哲学的な抽象論ではなく、損害賠償であればもっとリアルな「過失割合」であり、行政上、司法上の責任であれば処分の対象と認められるか、という値引きのない話にほかなりません。

 さらに、これが一般の路上交通で発生したものとすれば、どうなるでしょう?

 例えばT社の自動運転車は、基本すべてT社のAIシステムが運転しているものとしましょう。それで発生した事故は、すべてT社の責任になるのか?

 そんな制度設計にしたら、経営が成り立たないのは火を見るより明らかでしょう。

 どこかで適切に責任の主体を切り離し、その範囲でリスクを分散させ、また損害賠償などの必要が出た場合には、そこに責任の主体を限局する必要がある。そのような意味で、「EUロボット法」は議論されています。

 分かりやすく言えば、原発で事故が起きれば、裁判の結果、電力会社という「法人」の資産で賠償が行われるように、自動運転車やスマートファクトリーの産業用ロボットが事故を起こした場合、「自動運転車法人」や「産業用ロボット法人」が自分自身の資産をもって責任を負う。

 具体的には保険制度などが活用され、従来とは違うAI社会のエコシステムを円滑に動かしていく、そういう議論が、早くから進んでいます。

 たまたま私は大学の公務で、ミュンヘン工科大学などを中心とする、こうした「自動運転倫理委員会」メンバーと年来の共同プロジェクトを進めており、関連の状況は一通り承知しています。

 例えばドイツでは、自動運転車の安全システムで、「あらかじめ、特定の人を犠牲にするようなプログラム」を組んだ人がいた場合、「そのシステムを組み上げたシステムエンジニア個人を含め刑事責任が問われる」という、著しく重い判断がすでに下されています。

 通常の路上交通では、リスクは常に複数存在します。対向車であったり、後続車であったり、前後左右複数方向からの歩行者であり自転車でありバイクであり、また運転者自身や同乗者であり・・・。

 今回の例では、何のセキュリティも施されていない拙劣な車で事故が起きました。2つ以上のリスクが重なる場合、そのどれか1つ、あるいは複数でも、必ず犠牲になるものが決まっているというソフトウエアを組んだ人があれば、それに起因して発生した事故について、民事刑事の責任を負うという判断です。

 現場の運転と何ら関係しない、ウーバーで期間開発に関わったシステムエンジニアにも法的な責任が問われるという重い社会ルールが、ドイツ・欧州ではすでに準備されています。

 どうしてそんなことになってしまったかと言うと、1つの原因はフォルクスワーゲンの排気ガス安全基準ごまかしの大型犯罪で、国際社会にドイツ産業界が面目を丸潰しにした経緯が関係しています。

 あの時点では、誰が見ても不正にしか使えないあのシステムを作ったボッシュにも、そこで請け負ってシステムを作ったエンジニアにも、限られた責任しか問うことができなかった。

 でも、犯罪以外に使いようがないことは、関連した人がすべて知り、それこそ忖度し合いながら、企業秘密として伏せられていた。

 二度とこれを繰り返してはならないという決意をもって「システム開発者も牢屋に入れられ得る」という厳しい法制度準備が進んでいるわけです。

 翻って、米国にはそういう制度はおよそ存在していません。

 欧州では、重い責任とともに、慎重な自動運転の実用化が一歩一歩検討され、致命的な事故はいまだ発生していませんし、米国では気軽に自動運転車の実用化が叫ばれ、今回の事態を含め、かなりの高頻度でアクシデントが発生しています。

 別段「規制緩和はよろしくなく、重い規制がすばらしい」などと一面的に言うつもりはおよそありません。

 しかし、この件に関する限り実用化・商品化を焦る米国企業の拙劣さは隠しようもなく、またそうした拙速な開発を煽るベンチャーキャピタルなど、経営主体より後方の加速圧にも、間違いなく道義的な責任はあると言わねばならないでしょう。

 AIだ 自動運転だ 夢の未来社会だ といったばら色の絵図を描くのは結構なのですが、それに見合うだけの守りと足腰を備え、責任をもって国家百年の計として自動運転を位置づける欧州と、何もそうしたことは考えず「神の手」に任せたことにしやすい米国のコントラストが非常に際立っているように思います。

 関連の推移に注意しつつ、日本での自動システム、その導入と保険商品などを含む制度設計、真剣に考えてみてはいかがでしょうか。

筆者:伊東 乾