Instagramに娘の動画を投稿したところ、これまで投稿した記憶のない「娘の氏名」や「生年月日」といった個人情報を、MetaのAIアシスタントであるMeta AIが正確に提示してきたという恐怖体験が投稿され話題となっています。

Mother Horrified When Meta's AI Scours Instagram and Facebook for Invasive Information About Her Young Daughters

https://futurism.com/artificial-intelligence/mother-horrified-meta-ai-family



Meta says it’s changing AI suggestions after posing invasive personal questions | The Verge

https://www.theverge.com/tech/993974/meta-ai-prompt-invasive-suggestions

アメリカのユタ州在住のケイリー・ロビンズ氏は、幼い娘が歌っている無邪気な動画をInstagramに投稿しました。娘の顔は映っていたものの、ロビンズ氏は娘の名前や年齢などは明かしていませんでした。ロビンズ氏によると、娘は同氏のInstagramやFacebookで複数回登場しているものの、子どもの氏名については公表していなかったそうです。



ロビンズ氏は投稿した動画をFacebookでチェックした時、Meta AIが「同乗している子どもは誰ですか？」といった具合に、子どもに関する提案を行っていることに気づきました。



この提案をタップすると、Meta AIは娘の個人情報などを正確に提示してきたそうです。Meta AIはロビンズ氏の過去のFacebookおよびInstagramの投稿をさかのぼることで娘の個人情報を調べています。また、ロビンズ氏の投稿だけでなく、同氏と親しい間柄にある人物の投稿も参照しているそうです。実際、ロビンズ氏は娘の氏名について一切投稿していなかったそうですが、同氏の祖父母を含む家族が名前に関する投稿を行っていたことが確認されています。



また、Meta AIは動画に映っていないもうひとりの娘の名前を特定することもあったそうです。例えばMeta AIが「ケイリーの娘の年齢は？」と提案してきた場合、これをタップすると娘の生年月日が正確に提示されたとロビンズ氏は語っています。

ロビンズ氏がこの体験を動画にまとめてInstagramに投稿したところ、動画は34万件超のいいね、1万7000件超のコメント、6万1000件超のリポストを集め、インターネット上で大々的に拡散されました。

この投稿をInstagramで見る Kalie | Travel Mom Creator(@kontheinside)がシェアした投稿




この動画はInstagram以外のSNS上でも拡散されています。





ロビンズ氏によると、Meta AIは娘の学年まで推定したそうで、「自分の暮らす地区に学校は1つしかないので、子どもを見つけることは難しくないでしょう」「(さらにMeta AIは)私の娘のお気に入りのビーチはどこか、娘のお気に入りの本は何か、ハイキングに行く場所はどこか、お気に入りのトレイルはどこか、といったことまで話し始めたんです」と語っています。

他にも、Meta AIはロビンズ氏の職歴に関する情報を提示したり、家族に関する情報を提示したりしたそうで、「胃の底がどんどん重くなっていくようでした。恐怖を感じました」とロビンズ氏は語りました。

ロビンズ氏は今回を機に、親しい人たちにインターネット上で共有した思い出の写真や動画を削除あるいは非表示にするよう依頼しているそうです。ロビンズ氏は「親戚の中には、スクラップブックを整理して全部削除している時に泣いてしまう人もいました。そのうちのひとりは祖母で、『これは私のスクラップブックなのに、捨てなきゃいけないの？』と言っていました」と語っています。

テクノロジーメディアのFuturismがこの件についてMetaに問い合わせたところ、同社は「Meta AIがユーザー自身のコンテンツだけでなく、ウェブ上の公開情報も検索できる」ということを認めました。同時に、今回のケースについては「この機能はユーザーが興味のあるトピックや投稿について、より多くの情報を得られるようにするため開発したものです。ユーザーがプロンプトをタップしてこの機能を利用する際に提示される情報は、ユーザーが既にアクセスできる情報に基づいています。しかし、この機能はユーザーにこのような質問を投げかけるべきではなかったと思います。我々の意図は誤っていたため、この問題は既に修正しました」と述べ、問題を修正したと主張しています。

Metaはロビンズ氏にも「問題は修正しました」と報告していますが、ロビンズ氏は「具体的に何が直ったのかわからず、そもそもどのようなセーフガードを導入しており、そのセーフガードがどうやって失敗したのかもわかりません。Meta AIが子どもに関する情報に出くわした時、どのような保護施策が行われているのでしょうか？」と疑問を呈しています。

この投稿をInstagramで見る Kalie | Travel Mom Creator(@kontheinside)がシェアした投稿