再びデトロイトで顔認識AI使用での誤認逮捕。証拠写真は明らかに別人
デトロイト警察が、顔認識AIが誤って検出した無実の黒人男性を逮捕したことが報じられています。顔認識AIの使用による誤認逮捕はこれが2例目。2017年に警察が顔認識ソフトを使い始めたデトロイトでは、有色人種における認識精度が低いとして市民の一部が市に使用停止を要求しています。
地元紙Detroit Free Pressによると、マイケル・オリバー氏は2019年に発生した器物損壊事件(何らかのトラブルから被害者のスマートフォンを取り上げて放り投げ壊した)の容疑者として逮捕されました。オリバー氏は容疑を否認したものの、警察は顔認識AIが彼を犯人として検出したのを根拠としたとのこと。
この事件では、学生のグループが争っているところを教師が発見し警察に通報。その模様をスマートフォンのカメラで撮影していました。そのとき、若い男が教師のスマートフォンを取り上げて地面に投げつけ、画面を破壊したとされます。
警察は報告書で、スマートフォンに残っていた映像に映る犯人の画像を顔認識ソフトウェアで照合したところ、オリバー氏の名前が返されたと記しています。しかしその画像の人物は、オリバー氏の腕にはあるタトゥーがなく、顔つきも違っていました。オリバー氏の弁護士はこの映像を被害者と検察官補に見せて別人であることを確認、裁判所は起訴を却下しました。
デトロイトでの顔認識AIを原因とする誤認逮捕はこれが2度目です。最初の事例では、運転免許証の顔写真からAIが誤って認識した、やはり黒人男性のロバート・ウィリアムズ氏が逮捕され、30時間も拘留されました。
Motherboardによれば、この件に関してデトロイト警察署長は、彼らが使用するDataWorks Plus社製顔認識ソフトウェアの信頼性が非常に低く、他の情報や証拠なしに顔認識ソフトだけで判断しようとすると、96%の確率で誤った結果になる」と述べていました。
デトロイト警察の手続きでは、顔認証を用いた事件の場合は起訴するまえに、検察庁の監督官がすべての証拠を確認することを求めています。しかし、オリバー氏の場合は確認がされないまま起訴されていました。また裏付けとして必要な顔認識以外の証拠も用意されていませんでした。
オリバー氏およびウィリアムズ氏の件について、ミシガン州ウェイン郡のキム・ワーシー検察官は「この2件の結果により、われわれはより厳格な手続きを持つことになった」と述べています。そして顔認証の結果は(証拠ではなく)あくまで捜査のための道具として扱われるべきだと見解を示しています。
ミシガン州議会下院の黒人民主党議員は7月8日、議会に顔認識技術の使用禁止を訴えました。顔認識技術を使用した法執行をめぐる論争は、ミシガン州に限ったものではなく、すでにボストンやサンフランシスコといったいくつかの都市ではすでに顔認識AIの使用を禁止または制限しています。
アメリカ自由人権協会(ACLU)は「法律家は、問題が再発しないよう速やかにこの技術の使用を停止するための措置を講じなければならない」「結果が正しいか誤っているかに関わらず、この技術は非常に危険だ」と述べています。
顔認識技術の開発に取り組んできた企業も、それが結果的にプライバシーや人権侵害に結びついたりや、法整備が追いつかない状況から、IBMのように撤退したり、マイクロソフトなどのように法体制が整うまでは警察機関への顔認識技術の販売を取りやめる動きが出ています。
source：Detroit Free Press
