デトロイトの警官が42歳のロバート・ウィリアムズを逮捕したのは、2020年1月のことだった。計4,000ドル（約43万円）相当の時計数点を、1年3カ月前に店舗から盗んだ容疑である。ウィリアムズはふたりの子どもたちの目の前で手錠をかけられ、警察署に連行された。

「顔認識技術による誤認逮捕が浮き彫りにした、アルゴリズム「以外」の問題」の写真・リンク付きの記事はこちら

取調室では、警官から証拠が提示された。事件当夜の監視カメラに映っていた人物の画像とウィリアムズの運転免許証の写真が、顔認識ソフトの判定で一致したというのだ。

『ニューヨーク・タイムズ』によるとウィリアムズにはアリバイがあったことから、即座に容疑を否認したという。すると警官は、事件当夜の容疑者の写真を示した。そこに写っているのはウィリアムズではなかったのである。

「それが大柄な黒人男性であるということしか、わたしにはわかりませんでした」と、ウィリアムズはナショナル・パブリック・ラジオ（NPR）に語っている。

膨らむ顔認識技術への懸念

ウィリアムズはそのあと30時間の拘束を経て、保釈された。事件への彼の関与を示す証拠は顔認識ソフトの判定のみであると考えられることから、警察は最終的に容疑を取り下げた。

そして6月24日、ウィリアムズは米国自由人権協会（ACLU）ミシガン支部とともに、デトロイト市警察に対して申し立てを実施し、捜査における顔認識ソフトの使用停止を求めた。

ウィリアムズの逮捕は、顔認識技術の欠陥によって発生した米国初の誤認逮捕かもしれない。だが、これは単なる人違いではない。この誤認逮捕は延々と続く捜査ミスの新たな一例であり、有識者たちは長年、法執行機関による顔認識システムの使用について警鐘を鳴らしてきたのだ。

プライヴァシーの研究者グループや人権擁護団体は、さまざまな理由から顔認識技術を批判してきた。特に懸念材料とされてきたのは、非白人の誤認識率が白人に比べて高い点である。

これが理由で、サンフランシスコからマサチューセッツ州ケンブリッジまで、さまざまな都市が顔認識ソフトの使用を禁止または制限してきた。そして6月24日、ボストン市議会もまた、顔認識技術を禁じる条例案を可決した。

とられなかった予防措置

顔認識技術について考えるときは、この技術をひとつの「ツール」としてではなく、人間とアルゴリズム双方の判断が連なった「プロセス」として見るほうがいいだろう。

これまで有識者たちは、このプロセス内の各段階で、プライヴァシーの問題を指摘してきた。例えばウィリアムズのケースでは、誤認逮捕の予防措置の欠如が、避けられたはずの逮捕につながったと考えられる。

この事件でミシガン州警察は、事件現場の監視カメラの画像と州が保存する4,900万人分の画像のデータベースを、顔認識ソフトを使って比較している。そのデータベースには、ウィリアムズの運転免許証の写真も含まれていた。人々は自分の写真がこうやって使われることを意図していないだろうが、米国の全成人の実に半数がデータベースに自分の写真を載せている。

加えて米国各地の警察では、犯罪現場の写真と照合するために、ソーシャルメディア上の写真や目撃証言に基づいて作成した容疑者の似顔絵、さらには3Dレンダリングまで用いている。

逮捕されたことはあっても、起訴されたことも有罪になったこともない人々の写真がデータベースに含まれている場合、顔認識システムを使う捜査は特に有害だ。

例えばニューヨークでは、警察が違法におこなわれたストップ・アンド・フリスク（不審だと思われる人物を警官が引き止めて実施する所持品検査）での逮捕時に撮影した顔写真を、顔認識システムのデータベースに登録したことで批難を浴びた。

ウィリアムズの逮捕に関しては、彼の写真が大きな手がかりとされたようだ。ミシガン州警察は今回の誤認識に関する報告書のなかで、顔認識ソフトによる一致は逮捕の「相当な理由」には当たらないとした。同警察のガイドラインでは、顔認識は容疑者の「身元の特定方法」としてではなく、「捜査の手がかりとしてのみ」考慮すべきであると規定されている。

捜査員たちは、容疑者の写真とウィリアムズの写真が顔認識ソフトによって「一致」したことを受け、次にウィリアムズの容疑を裏付ける証拠を探した。『ニューヨーク・タイムズ』によると、警官はウィリアムズの電話も、彼にアリバイがあるかどうかも確認しなかったという。

その代わり警官たちは、事件当時に現場にいなかった外部セキュリティシステムのコンサルタントに、ウィリアムズが監視カメラに写っている男性かどうか質問した。その女性の答えは、ウィリアムズの逮捕に踏み切るには十分だった。

何をもって「一致」とするか

連邦政府の調査では、肌の色が濃い人物を対象とした顔認識は不正確な例が多いことが判明している。だが有識者たちは、「一致」の定義についても異議を唱えている。

『ニューヨーク・タイムズ』によると、ウィリアムズの写真がスキャンされたとき、顔認識ソフトは一致する可能性のある写真のリストを、それぞれの「一致率」とともに示していたはずだという。一致率とは、リストの各写真が監視カメラに写った容疑者の画像である可能性の確度を示す数値のことで、顔認識における重要な判断材料となる。

例えば、アマゾンの顔認識技術「Amazon Rekognition」が、連邦議員を犯罪データベースに載っている人物と誤認したとACLUが発表したとき、アマゾンはACLUが基準とした一致率が低すぎたのだと回答した。アマゾンによると、同社では一致率が99パーセントの場合を一致とみなす一方で、ACLUは一致率の基準値を80パーセントに設定していたという。

なお、ミシガン州警察のアルゴリズムが用いていた一致率は不明である。

高まる禁止を求める声

こうした事情もあり、顔認識に関する議論の流れは規制から禁止へと変化している。たとえ顔認識による裏付けに関する規制がつくられても、警察はその規制をくぐり抜ける方法を見つけるからだ。

有識者たちは、顔認識システムによって刑事司法制度の濫用が自動化・促進されるのではないかと懸念している。

ミズーリ州ファーガソン市のケースを考えてみるといい。司法省は15年、ファーガソン市警察が財政政策のために黒人の運転手ばかりを狙って交通違反切符を切っていると主張した。たった一度の不払いでも逮捕状を執行される可能性があったことから、市民たちは高額の罰金を払わざるを得なくなっていたのだ。

こうした状況で都市に大規模な顔認識システムが実装されれば、たまたまカメラに写ったり、ボディーカメラを装着した警官に出くわしたりするだけで、運転手が逮捕の危険に晒されることになる。

ウィリアムズの逮捕は顔認識システムによる誤認逮捕としては初めて世間に知られることになった例だが、誤認逮捕の例はほかにもありうる。システム自体が極めて非効果的である場合、そこで使われている単一の捜査ツールをどう改善すればいいのかは定かではない。

IBMやアマゾンなど、ソフトウェアを供給するテック企業も、警察改革に声援を送っている。だが、こうした企業がとっているのは活動家たちが支持する「顔認識技術の禁止」ではなく、規制を求めるロビー活動が続く間は警察への顔認識ソフトの販売を一時的に停止するという甘いアプローチだ。しかも、多くの専門家は、この規制自体が効果的ではないとしている。