Engadget
Engadget

AmazonのEchoなどが搭載するAI音声アシスタントAlexaには様々な機能があり、特に何もすることがなくてもたとえば言葉遊びの相手になったり、求めればよくYouTubeやTikTokなどでみかける「チャレンジ」を提案したりしてくれます。ところが、10歳の少女がAlexaに教えてもらったチャレンジ課題が非常に危険だったことが発覚し、Amazonに対する批判がわき起こりました。

少女がAlexaに教えてもらったチャレンジとは「携帯電話の充電器をコンセントに半分だけ差し込み、その差し込み部に見える2本の棒に小銭で触れてみて」というもの。そんなことをすれば感電ややけど、火災の恐れがあり、最悪は死亡する可能性があるのは大人なら誰でもわかることです。

幸いその場には少女の母親がいて、すぐ少女にチャレンジを実行しないよう命じました。また少女もそれがいかに危険な行為かわかっており「そんなバカなことはできない」と述べて事なきを得ました 。しかし、もし近くに誰もいない状態で小さな子どもが同じチャレンジを提案されたらどうなっていたか、想像するのも恐ろしい話です。

米Amazonはこの問題を知り、Alexaが再びそのようなチャレンジを推奨しないよう、直ちに対策アップデートを実施したと発表しました。少女の母親も、その後同じ質問をAlexaにしたところ、もはやAlexaはユーザーからの質問や依頼に対する回答を検索エンジンやウェブサイトから収集してデータベース化していると思われますが、その内容に関する人的な安全確認がないために、このような問題が発生したと考えられます。実際、1年ほど前にTikTokなどでこの馬鹿げた「Penny Challenge」が広まっていたとBBC Newsは報じており、おそらくAlexaはそれに関する記述文を拾っていたのでしょう。

AIは人々の生活を便利に手助けすべく開発されていますが、それはまだまだ未熟な技術だということを心に留めておくべきかもしれません。また、TikTokその他動画SNS界隈では危険なチャレンジがたびたび広まっており、子どもたちには「チャレンジへのチャレンジ禁止」を、その理由を踏まえて教えておくのが間違いなさそうです。

Source：Kristin Livdahl(Twitter)

via：BBC News