by Eduardo Woo

Facebookが新たなプロジェクトとして、「ユーザーがMessengerを使って自分宛でヌード写真を送る」という取り組みを開始しています。一見すると非常に驚きの取り組みなのですが、周囲からは「画期的な仕組みだ」として注目が集まっています。

Revenge porn: Facebook teaming up with Government to stop nude photos ending up on Messenger, Instagram - ABC News (Australian Broadcasting Corporation)

http://www.abc.net.au/news/2017-11-02/facebook-offers-revenge-porn-solution/9112420



Facebook asks users for nude photos in project to combat revenge porn | Technology | The Guardian

https://www.theguardian.com/technology/2017/nov/07/facebook-revenge-porn-nude-photos



Facebookの新たなプロジェクトの目的は「リベンジポルノ」を撲滅するため。離婚した元配偶者や別れた交際相手が復讐として相手の裸の写真や動画などをインターネットを通じて広めるリベンジポルノは、大きな問題となっています。Facebookはユーザーのヌード写真を元に、その写真と同様の画像がアップロード・共有されようとした時にブロックするという機能を、オーストラリア政府機関である「e-safety commissioner」と協力してテスト中であるとのこと。eSafetyのJulia Inman Grant氏は「これは、『画像ベースの虐待』の被害者が、写真がFacebookやInstagram、Messengerにアップロードされる前にアクションを取れるようにするものです」と語っています。

Facebookがテスト中の仕組みでは、まず、ユーザーがe-safety commissioner上のオンラインフォームに入力。その後、ユーザーがMessengerを使って「自分宛に」リベンジポルノの心配がある写真を送ると、e-safety commissionerからFacebookに通知が送られます。Facebookが通知を受け取ると、コミュニティのオペレーションアナリストが写真にアクセスしてハッシュ化を行います。他の誰かが写真をアップロードしようとした時に、ハッシュ化された写真のフィンガープリントやハッシュ値が一致すれば、その写真はアップロードやシェアができなくなるというわけです。



by ian dooley

Facebookがこれらの写真を保持しているのは短期間であり、すぐにポリシーにのっとり削除され、ハッカーが写真にアクセスしてしまう心配もないとのこと。

Facebookは2017年4月にも写真のマッチングシステムを利用し、過去にリベンジポルノだと報告された写真を新たにアップロード・共有することを禁じる仕組みをアメリカで導入しています。また、画像のハッシュ化とマッチングテクノロジーを合わせた手法はFacebook以外の会社でも採用されており、リベンジポルノだけでなく、児童性的虐待の防止にも役立てられています。

上記の技術はもともと2009年にMicrosoftがダートマス大学と行方不明者および搾取された子どもたちのためのセンターと協力して開発したもの。児童ポルノの画像が何度も繰り返しインターネット上にアップロードされてしまうことを防ぐことを目的としていました。



by Blake Meyer

当初この技術は画像のサイズが変更されたりファイルを少し改変するだけで写真の再アップロードが可能になってしまうことが問題点だったため、画像をハッシュ化するという技術を取り入れることで、例えアップロード者が写真を改変したとしてもマッチングによって、共有できないようにしています。

Facebookが開始した仕組みは、Facebookのエコシステムの外での写真共有・アップロードについては防げないという点があるものの、実際のリベンジポルノの被害者だけでなく、「裸の写真を広められるのではないか」と心配を抱く「被害者になる可能性のある人」の問題に取り組んだ点が評価されています。

なお、Facebook広報は、e-safety commissioner以外にも取り組みを協力して行うパートナーや政府を探しているとのことです。