子どもたちがスマートフォンでどんな画像を共有しているのかを親は知るよしもありません。わいせつ画像やセクスティングなどで子どもが被害を受けるのを防ごうという目的で、子どもが保存した画像をすべてチェックして「いかがわしい画像」「不適切な画像」を検出すると、即座に親のスマートフォンに通知するというアプリ「Gallery Guardian」が開発されています。

Gallery Guardian Child Protection App

https://www.galleryguardian.co.uk/

Gallery Guardianの仕組みは以下のムービーを見ればよくわかります。

Gallery Guardian on Vimeo



スマートフォンひとつで世界中の人とつながることができる時代。



写真や情報はシェアすることで簡単に子どもの間で拡散します。



子どもがどんな情報に触れているのかを親が知る術はありません。



ポルノなどのわいせつな画像から一体どうやって子どもを守ればいいのか？



そんな心配を持つ親のためにアプリ「Gallery Guardian」は開発されました。



子どものスマートフォンに、いかがわしい画像など不適切な画像が保存されたのを検出すると……



保護者のスマートフォンに警告が通知されます。



使い方は、保護者と子どものスマートフォンにGallery Guardianをインストールして……



ペアリング作業をするだけ。



Gallery Guardianは子どものスマートフォンに保存される全ての画像をチェックします。アプリが機械学習によって「いかがわしい画像」「不適切な画像」を検出すると……



保護者のスマートフォンに通知が届く仕組みです。



スマートフォンやGallery Guardianの使い方がイマイチわからないという人のために……



専用のサポートダイヤルも用意される予定です。



Gallery Guardianを開発したのはロンドンのスタートアップYipo Technologiesです。12歳の娘を含む4人の父親であるダニエル・スコワロスキー氏は、子どもたちが不適切な画像を共有していることを知り、セクスティングなどの被害に遭っている現状を憂いてアプリを開発したとのこと。

Gallery Guardianは画像認識アルゴリズムによって子どものスマートフォンに含まれる画像をチェックして、肌の露出、乳房、性器などからいかがわしい不適切な画像を検出します。なお、画像自体を親の端末に転送する行為は児童ポルノの共有として犯罪行為になる可能性を考慮して行わず、単にアラートを送信するのみだとのこと。アラートが届いた親は、子どもと話し合って画像を削除させることが推奨されています。

BBCはスコワロスキー氏にインタビューしてアプリ開発状況などを尋ねています。

Naked selfie-detecting app Gallery Guardian tested - BBC News

http://www.bbc.com/news/av/technology-39716860/naked-selfie-spotting-app-put-to-the-test

画像右の男性がGallery Guardian開発者のスコワロスキー氏。



BBCが独自にGallery Guardianを試したところ、検出すべきわいせつ画像をスルーしたり、単なる自撮り画像をいかがわしいものと判断したりと誤検出が見られたそうです。



「画像認識アルゴリズムをトレーニングするのは難しいのです」と答えるスコワルスキー氏に対して、BBCのインタビュワーは「どうやってトレーニングするのですか？」と突っ込んでいます。



「形や大きさなどはさまざまなので難しくて……」と、たじたじのスコワルスキー氏。ただし、アルゴリズムは日々進化しており精度は高まっていると答えています。



一定時間で画像が消えるSnapchatやInstagramなどのアプリへの対応は技術的に難しいとのこと。ただし、このようなアプリでもスクリーンショットによって保存されて共有されるという行為がよくあることから、対応できると考えているそうです。



Gallery Guardianは近く公開予定で、アプリ公開を待望する人は、以下の公式ページに登録するとリリースを通知してくれるそうです。

Gallery Guardian Child Protection App

https://www.galleryguardian.co.uk/