「顔認識は規制すべき」という、マイクロソフトの意外な要望の真意
この1年、シリコンヴァレーはわたしたちのデータや選挙、演説を扱う方法を研究してきた。いまや研究対象はもうひとつ増えている。わたしたちの顔だ。
最近も、アマゾンが自社の顔認識技術を地方警察に売ったことで非難され』［日本語版記事］、フェイスブックが欧州のユーザーに顔写真を識別することを認めさせた手法も批判されている。
マイクロソフトもまた、同社のクラウドコンピューティングサーヴィスを米移民税関捜査局に導入したことで、テクノロジーが倫理的に使われていないと批判を受けた。同社によると、契約［日本語版記事］に顔認識技術は含まれていないという。
顔認識技術に関してマイクロソフトの技術を利用した企業の実績を見ると、女性や有色人種よりも白人男性についてはるかに正確に識別できている。
社会がテクノロジーの急激な進歩についていけるよう手助けすべく、マイクロソフトのブラッド・スミス社長は7月13日のブログに、顔認識技術について政府に規制を求める投稿をした。スミスは具体的な規制ルールを提示しなかったが、提案を行った。それはこの問題に関して理解を深め、よりよい選択肢を導き出すべく「共和・民主両党議員と専門家からなる委員会」を設置することだ。
スミスはその委員会が検討すべき点を列挙した。法執行機関や国家安全保障機関によるこの技術の使用には一定の制限を設けること、人種のプロファイリングを禁じること。この技術を使う場合、特に公共スペースで使うときは対象者に告知すること。誤認識された人を法的に保護すること。だが、スミスはこれらの質問に対するマイクロソフトとしての見解は示さなかった。
「民主共和国において、公共の安全と民主主義における自由の本質のバランスが求められる問題については、選挙で選ばれた代表者によって意思決定がなされなければならない」とスミスは書いている。「顔認識技術は、政府と民間が協力して対処すべき問題である」
ルールが存在していない状況
多くのテクノロジーと同じように、顔認識技術は役に立つが有害にもなりうる。ネットユーザーは写真から人物を識別しようと、グーグルやフェイスブックなどのサーヴィスを利用する。アップルは「iPhone X」のロックを解くために、マイクロソフトは「Windows Hello」でパソコンのロックを解除するために顔認証を使えるようにした。
配車サーヴィスのUberは、アプリを使っているドライヴァーを確認するために、マイクロソフトの顔認識技術を利用している。オフィスや空港、ホテルでは表情分析が人物を特定する手段に使われている。
しかし、この技術を使うルールは警察も企業もほとんど定めていない。スミスはブログで、政府が顔認識技術を使って政治集会に参加した人々のデータベースをつくる危険性や、販売店が（顧客が商品を買わない場合も含めて）どんな商品を物色しているかをモニターする危険性を指摘している。
ワシントンで政治的な決定がなかなかなされない状況を考慮すると、政府や企業による顔認識技術の使用制限の問題を専門委員会に託すことは、マイクロソフトがリスクを負うことなく責任を示せる便利な方法のようにも思える。だが、スミスによると、こうした委員会はよく設けられていて（この10年で28回）、一定の成果を上げているという。そして、2001年9月11日の同時多発テロのあとで、委員会の答申に基づいて国家安全保障機関が改変されたことを例に挙げた。
海外に目を転じてみると、中国はしばしば政府が中心となって顔認識技術を広く利用しており、制限はほとんどない。公共の場所に多く設置されている監視カメラによって、人ごみの中から犯罪容疑者を発見することに利用されている。
関連記事：世界的に広がる顔認識技術による「監視」と、社会はどう向き合うのか
政府による規制は別として、マイクロソフトをはじめとするテクノロジー企業は、この技術の使用についてもっと責任をもつべきだとスミスは語る。そして、透明性のある行動や人種の偏見を減らすこと、ゆっくりと慎重にこの技術を普及させることを求めている。
「顔認識技術を急速に広めた場合、基本的人権が侵害される恐れが生ずる」とスミスは述べる。マイクロソフトの技術は人種間で識別成績が大きく違うが、その不均衡を是正すべく努力も行われているという。
テクノロジー企業が積極的に動く必要性
テクノロジーの利用に関する倫理的な問題は以前から懸念されていた。しかしながら、顔をスキャンし、自動車を運転し、犯罪を予測するなど、人工知能（AI）はますます賢くなっている。その結果、新しい研究施設や業界団体、慈善プログラムが次々と生まれている。
スミス社長も提案者のひとりとなって、マイクロソフトは2016年に社内で諮問機関を設けてAIの利用についてより広範囲に検討させている。これまでに、顧客の要求通りに自社のテクノロジーを展開することが「人権を危険にさらす」とその諮問機関が結論づけたとき、マイクロソフトは顧客の要求をはねつけたことがあるとスミスはブログに書いている。ただし、さすがにそれがどんな要求だったかは具体的に教えてくれなかった。
マイクロソフトのアプローチを、スタンフォード大学の民主・発展・法治センター（CDDRL）のアイリーン・ドナフー非常勤教授は賞賛している。「マイクロソフトは自分たちが開発しているテクノロジーのもつ倫理的な側面について、どこよりも早く真剣に考えています」。これがきっかけとなりほかのテクノロジー企業においても議論が活発になることを望んでいると、ドナフーは語る。
テクノロジー企業は顔認識も含め、AI研究をやめるべきだという意見もある。テクノロジー企業がやめてもほかの企業が研究するだけだから、現実的な意見ではないとドナフーは言う。「それよりは、テクノロジー企業が従業員や顧客、米国政府を巻き込んで、そのテクノロジーの利用可能性とリスクを考えるほうがいいと思います」
ニューヨーク大学スターンスクールのビジネスと人権センター所長のマイケル・ポズナーは、マイクロソフトの声明を歓迎した。ただ、政府はときに顔認識技術を誤用するかもしれないとポズナーは警告し、民間企業は「これらのテクノロジーの開発者は、その対象となる市民と同じように多様であるべきだ」と主張する。また企業は、このテクノロジーの利用について「業界としての明確な基準」を定めるべきだと語っている。
RELATED
ほぼ規制なし？ 米警察が犯罪捜査に使う「アマゾンの顔認識技術」の危険性
