テクノロジーと司法の間の最先端の話題をご紹介しましょう。アルゴリズム犯罪の刑事責任というトピックスです。

 EUではこの種の議論が積極的に深められており、ミュンヘン工科大学を中心とする「インダストリー4.0」ブレイン陣も正面から取り組んでいます。

[JBpressの今日の記事(トップページ)へ]

フォルクスワーゲンの検査隠蔽

 この問題が検討されるようになったきっかけは、フォルクスワーゲンの検査不正ソフトウエアの問題が発覚したことでした。

 まず簡単に、2015年に明らかになったフォルクスワーゲンの偽装犯罪を振り返ってみましょう。

 日本でディーゼル車を常用したことはないのですが、ドイツでアウトバーンを走るときはレンタカーでディーゼルをよく使います。

 軽油で走るディーゼルの良いところは、燃費が良いこと、走りが力強いことなど、いろいろあります。ドイツは北部が平野、南に行くほど山がちになり、最南端はスイス、アルプスにつながりますから、道路は起伏に富んでいきます。

 北部のベルリンから東南部のバイロイト、中南部のニュルンベルクさらに南のミュンヘンと、緯度が下がれば下がるほど道路は山がちになり、あるメーカーの車をレンタルした際には、時速180キロで山がちのエリアなど進もうとすると、エンジンの力不足を感じたこともあります。

 良いことがあれば、反面悪いこともあります。ディーゼルは排ガスが問題です。様々な公害の原因となるNOxや粉塵を大量に含むので、近年はこの規制が厳しく行われるようになりました。

 かつては日本でも、私が子供だった昭和40年代など「光化学スモッグ注意報」がしばしば発令されましたし、新興国の森林が酸性雨で真っ赤に枯れてしまった衛星撮影の写真など、ご覧になった方は少なくないでしょう。

 その主要な元凶の1つがNOxです。ディーゼルは走りが良いけど、NOxを撒き散らしてしまう・・・。

 このジレンマに、フォルクスワーゲンは組織ぐるみで「対策」を考えたわけです。

 一般に、自動車の顧客は購入に際して必ず試乗します。誰だって走りの良い車が買いたいですものね。当然です。

 しかし、各国がうるさく規制するようになったので、ディーゼル車は空気浄化装置を装備しなくてはならなくなりました。

 空気浄化装置を稼働させるとどうなるか・・・。排ガスをバンバン撒き散らしながら走れば、環境は汚染しますが、エンジンはご機嫌に回転するでしょう。

 ここで、内燃機関のガス出口にフィルタや装置を取りつければ、ちょうどマスクをした状態で呼吸が少し苦しくなるのと同じような話で、走りはそんなにゴキゲンとはならない、らしい。

 少なくとも、フォルクスワーゲンのスタッフはそのように考えて、何とかせねば、と対策を練った。その対策が、偽装の犯罪だったわけです。

 ある自動車が排ガス規制をクリアしているかどうかは、検査場でテストされます。このとき、当然ながら、車は停止した状態です。走行していませんから、ハンドルを切る必要もありません。運転席は無人のままでも検査は実行できるでしょう。

 ここで、誰だか知りませんが、頭の良い人がいて、そこに眼をつけたのです。

プログラマーに刑事責任を問えるか?

 問題のクルマはこんなふうな仕かけになっていました。

 エンジンをかけるとモーターが回ります。その状態で車検検査すると、空気清浄装置がフル稼働して、きれいな排ガスが出ます。車は走っていませんから、走行感覚もへったくれも無関係。「環境優等生」としてこの車はテストをクリアします。

 これを「状態A」と呼んでおきましょう。

 さて、では検査場から出ましょう、とこの車のハンドルを切ると、話が変わってきます。ハンドルが切られ始めると、この「システム」は違う判断を下すのです。

 ハンドルが動いている状態では、空気清浄機の働きは抑えられてしまうのです。

 こうなると、先生の前だけマスクをしていた良い子が、マスクをかなぐり捨てて息を吐き出しますから、当然ながらフォルクスワーゲンの「イイ走り」が実現し、ゴキゲンな走行感覚が得られます。

 同時に大気中にはNOxなどが撒き散らかし放題となる。

 こんな、センサ技術とソフト、ハードが複雑に入り組んだ、巧妙な「システムインテグレーション」にフォルクスワーゲンは成功します。

 各国の車検は安全にクリアしつつ、顧客が求めるゴキゲンな走行感覚はキープして、売り上げの低下には歯止めをかける・・・。

 よく考えたもので、まさに「技術経営」の最たるものの1つと言っていいでしょう。ただしこれは犯罪です。

 今回の主な論点は、ここから始まります。

 巧妙なフォルクスワーゲン首脳部は、社内にもこんなカラクリを知らせたら大変なことですから、他社に外注するわけですね。

 受けたのは、南ドイツの工業都市インゴルシュタットを支える大企業、ボッシュでした。

 エンジンもハンドルも空気清浄機も全部、フォルクスワーゲンの本拠地であるニーダーザクセン州ヴォルフスシュタットで作り、問題のソフトウエアは遠く離れた山がちなバイエルンのインゴルシュタットで秘密裏に作らせる。

 敵を欺くには、まず味方から、という徹底で、完全犯罪を狙ったのであろう計画者の狡猾さの現れでもあり、その分、露顕してから後は「悪質」として、社会の猛批判を受けました。

 ここで問題になるのが「ボッシュの責任」です。

 「不正を行ったのはフォルクスワーゲンで、わが社は発注されたシステムを納品しただけ。責任はありません」と言えるのか?

 マンガ的に記すなら

V:「あのですね、自動車のハンドルを動かさない間は空気清浄機を清浄動作させ、ハンドルが動いたら動かないようなシステム一丁、お願いできますか?」

B:「はいよっ、お安い御用で・・・ヘイどうぞ」

 というやり取りで、そんなシステム、犯罪以外に使うわけがないので、ボッシュ側の受注者は少なくともその目的を理解していたことになる。つまり「共犯者」だということです。

 しかし問題はこの先です。ボッシュ社内での業務を考えてみてください。

B1:「VW社から、ハンドルの動きを感知したら空気清浄機の稼動を**%に落とすシステムを受注した。B2君、このシステムを組み上げるソフトウエアチームの統括をやってくれたまえ」

B2:「イエッサー」

 といった具合で、B社内では特別機密チームが作られて、検査逃れ不正システムのソフトウエアが組み上げられたわけです。

 ソースコードを打ち込んだ末端のシステムエンジニアも、こんなシステムがまともな目的に使用する代物ではないことは重々承知のうえで手を動かしていたことになる。

 では、このB2氏以下のエンジニアは共犯者と言えるのか・・・?

 日本ではおよそまだ問われることのない、こうした問題が、欧州で厳しく議論され始めたのには背景があります。「自動運転」です。

「技術バカ」は通用しない

 かつての日本では「優れた技術で良い製品を作っていれば、必ず売れるんだ」式の職人気質、いわば技術バカが大手を振って通用した時代がありました。

 実際、マイクロプロセッサ、OS、ネットワーク、ソフトウエア・・・黎明期に明らかに優れた仕事をしていたのは1960〜70年代の日本だった。

 それが1980年代後半以降、政治的に急速に絞られて、日本はバブル以降の「失われた10年」に突入、インターネットだブロードバンドだとそれなりに動くようになった大本は多くの根が日本にあったのに、ほとんどすべてで割を食う、いわば「負け組」側に回ってしまっています。

 私は「電子立国日本」が良かった時代を中学高校生として過ごし、冷戦最末期に日本がめちゃくちゃブッ叩かれた時代を大学で過ごしました。

 冷戦崩壊後に院生から音楽専業となったのち、ネットがつながってIT革命の副産物として情報部署に音楽教授として着任、TLOの役員など兼業してイノベーションに関わり始め、そろそろ20年経過するという、時代の人生行路を歩んできました。

 そんな中で「技術者の社会的責任」が変質してきたのをまざまざと感じます。テクノロジーに関連して様々問題が起きるとき、経営陣が責任を問われるのはもちろん、技術開発本部長などR&Dのトップも厳しく指弾されるケースがありました。

 しかし、ハッキングなどの積極的な犯罪を別として、企業の末端技術者、とりわけSEがそうした責任を問われるということは、2010年前後までは非常に少なかったのではないかと思います。

 しかし、いまや私たちは、ソースコードの1行が決定的な意味を持つ時代に足を踏み入れつつあります。

 ドイツで「アルゴリズム犯罪」が議論されるようになったのは、自動運転が事故に遭遇したとき、あらかじめ「誰かを犠牲にする」ような「プリ・プログラムを組むか?」というシリアスな問いが背景になっています。

 つまり、あらかじめ、誰かの命を助け、誰かの命を犠牲にするようなプログラムを組むとすれば、そのプログラマは「未必の故意(willful negligence)」をもって殺人を犯しているのと変わらないのではないか?

 そういうポイントが激しく議論され、そのようなプログラムを組むように命じることはもちろん、それを組んだSE、システムエンジニアも責任を追及されることになりつつあります。

 これは実は、大変なことで、全産業をひっくり返すぐらい大きなインパクトのある問題ですが、2017年11月時点の日本では、あまり多くの人が持っていません。

 東京大学のグループは社会に先駆け、こうした「ロボット法」の諸問題を検討する協創圏を準備しています。これについては、また稿を改めて詳述したいと思います。

筆者:伊東 乾