米国のハリスバーグ科学技術大学が2020年5月上旬、ある人物が犯罪者になりうるかを予測する顔認識プログラムを開発したとするプレスリリースを発表した。ふたりの教授とひとりの大学院生が開発したというこの技術は、大手学術出版社であるシュプリンガー・ネイチャーのブックシリーズに論文として掲載されると、プレスリリースには書かれていた。

「顔認識だけで犯罪の可能性を“予測”できる? ある論文が波紋を呼んだ理由」の写真・リンク付きの記事はこちら

この論文のタイトルは「画像処理により犯罪性を予測するディープニューラルネットワークモデル(A Deep Neural Network Model to Predict Criminality Using Image Processing)」で、新しいアルゴリズムによって「その人物が犯罪者かどうかを顔写真のみに基づいて」「人種的なバイアスなく80パーセントの精度で」予測できると主張していた。このプレスリリースは、現在はハリスバーグ科学技術大学のウェブサイトから削除されている。

この発表を受けて、1,000人を超える機械学習の研究者や社会学者、歴史学者、倫理学者らが、この論文を批判する公開書簡を6月23日に発表した。この研究者集団「Coalition for Critical Technology(重要技術に関する連合=CCT)」による批判があったことから、シュプリンガー・ネイチャーはこの論文を掲載しないことをTwitterの公式アカウントで明らかにしている。

だが、CCTの公開書簡に署名した研究者たちは、この問題は掲載のとりやめにとどまらないのだと指摘する。公開書簡においてCCTは、論文の主張が「長年にわたって誤りを指摘されてきた不健全な科学的根拠や研究、手法に基づいている」としており、「“犯罪”というカテゴリー自体に人種的なバイアスがかかっていることから」人種的なバイアスなしで犯罪者を予測することは不可能であると論じている。

バイアスを再現する“人種科学”の歴史

近年のデータサイエンスと機械学習における進歩によって、犯罪や犯罪者を予測できると称する非常に多くのアルゴリズムが提案されてきた。しかし、こうしたアルゴリズムを構築するために使われたデータにバイアスがかかっている場合、アルゴリズムによる予測にもバイアスがかかってしまう。公開書簡によると、米国の警察活動そのものに人種的なバイアスがかかっていることから、犯罪をモデル化するあらゆる予測アルゴリズムは、すでに刑事司法制度に反映されたバイアスを再現するだけだという。

こうしたバイアスが顔の分析に適用されることは、過去数世紀の忌まわしい“人種科学”を思い出させる。テクノロジーを利用することで頭の大きさや鼻の幅に基づいて人種の違いを識別し、生来の知力や美徳、犯罪性を証明しようとした疑似科学だ。人種科学ははるか昔にその誤りが暴かれたが、機械学習によって生来の性質を“推定”したり診断したりするという論文は、わずかながらこの疑似科学の再来を憂慮させるものである。

16年には上海交通大学の研究者らが、顔分析を使用したアルゴリズムによって犯罪性を推定できると主張している。スタンフォード大学とグーグルのエンジニアらはこの論文に反論し、この手法のことを「人相学」であると指摘した。これは誤りであることが暴かれている人種科学の分野であり、優生学者がよく使う頭の形から人の個性や特性を推定する学問である。

17年にはスタンフォード大学の研究者ふたりが、顔に基づいてその人がゲイかどうかを識別できる人工知能(AI)を開発したと主張した。LGBTQの組織はこの研究に反発し、同性愛を犯罪とする国において、性的指向を自動で識別することがどれだけ有害かを指摘している。

19年にはイングランドのキール大学の研究者らが、YouTubeの子どもの動画で訓練したアルゴリズムによって、自閉症を推定できると主張した。20年初頭には論文誌「Journal of Big Data」に掲載された論文が、「顔の画像から性格の特性を推定する」ことを試みただけでなく、犯罪性は遺伝するという考えを擁護した19世紀の科学者チェーザレ・ロンブローゾの言葉を引用した。

論文が掲載されなくなった理由

こうした論文は激しい反論を巻き起こしたが、新たな製品や医療用具につながるものはなかった。ところが、ハリスバーグ科学技術大学の論文の著者は、法執行機関による使用のためにアルゴリズムを設計したと主張したのである。

現在は削除されているハリスバーグ科学技術大学のプレスリリースのなかで、博士課程の学生で元ニューヨーク市警察官のジョナサン・W・コーンは、「犯罪は現代社会において最も顕著な問題のひとつです」と述べている。「顔の画像から人物の犯罪性を識別するといった認識タスクを実行できるマシンの開発は、法執行機関やその他の情報機関が指定地域内の犯罪を防ぐ上で大きな利益をもたらすでしょう」

コーンにコメントを求めたが、返答は得られていない。共著者のひとりであるナサニエル・アシュビーはコメントを拒否している。またシュプリンガー・ネイチャーは、この記事が最初に掲載される前はコメントに応じなかったが、掲載後に次のようなコメントを出している。

「この論文に関する懸念は認識しており、掲載されないことを明確にしたいと思います。この論文は、当社が『Transactions on Computational Science and Computational Intelligence』というブックシリーズとして論文集を出版するに先だって予定されていたカンファレンスのために投稿され、徹底的な査読を経ていました。この論文の最終稿を不採録にするという決定は、シリーズの編集者によって6月16日になされ、22日に著者に公式に伝達されました。査読プロセスの詳細と導き出された結論は、編集者、査読者、そして著者の間で機密となっています」

「実行してはならないタスク」の存在

人権擁護団体は法執行機関に対して、顔認識の使用について長きにわたって警告してきた。また、CCTの書簡に署名したAI研究者のティムニット・ゲブルとジョイ・ブオラムウィニのレポートによると、顔認識ソフトウェアの精度は明るい肌色の人よりも暗い肌色の人のほうが下がるという。

アメリカ自由人権協会(ACLU)は18年、アマゾンの顔認識技術「Amazon Rekognition」が連邦議会議員のことを誤って犯罪者であると認識し、誤認識が白人の議員よりも有色人種の議員に多く発生したことを発見した。こうした動きを受けてアマゾンは、「Amazon Rekognition」の警察当局による使用を1年間停止すると発表している。

関連記事:米国の警察が使う「アマゾンの顔認識技術」、その利用の一時停止は大きな転換点になるか

ハリスバーグ科学技術大学の論文が公になることはなかったようだが、問題のある研究は出版するだけでも危険につながる。ベルリンに拠点を置くセキュリティ研究者のアダム・ハーヴィーは19年、米国の大学による顔認識のデータセットが中国政府とつながりのある監視企業によって使用されていることを突き止めた。ある目的のために実施されたAIの研究は別の目的に使用されることがあることから、直接的に新しい製品や手法につながらない場合であっても、論文には強力な倫理的調査が必要になる。

「コンピューターや内燃機関のように、AIは汎用的な技術である。非常に多くのタスクを自動化できるが、なかにはそもそも実行してはならないタスクが含まれている」と、今回の公開書簡には書かれている。