グーグルの音声アシスタントが録音した会話は、誰にどこまで「聞かれて」いるのか？
AIを搭載したヴァーチャルアシスタントが、スマートフォンや家での作業をラクにする。グーグルやアップル、アマゾンといった企業はそう主張してきた。しかし、ベルギーに住むある夫婦は、こうしたアシスタントが機能する真の仕組みを知り、思いもよらぬ教訓を得ることとなった。
ある日夫婦は、ベルギーの公共放送局「VRT」のジャーナリストであるティム・ヴェルヘイデンから連絡を受け、奇妙な音声ファイルを受けとった。驚くべきことに、その音源には夫婦の息子と、孫である赤ん坊の声がはっきりと録音されていたのだ。それは、グーグルのヴァーチャルアシスタントがスマートフォンを通じて録音したものだった。
ヴェルヘイデンいわく、彼はこのファイル以外にも1000件を超える音声ファイルにアクセスできるのだという。このデータを彼に提供したのは、グーグルの契約業者のひとりだ。
この従業員は、世界各地で働くグーグルの下請けのひとりであり、アシスタントがスマートスピーカーや携帯電話、セキュリティカメラなどのデヴァイスを通じて録音した音声をレヴューする仕事に就いていた。そのうち1件の音声には、夫婦の住所やふたりに孫がいることを示唆する情報も含まれていたという。
提供された音声データの「個人的」な中身
放送局のVRTが調査した音声のほとんどは、ベルギー在住の夫婦についての音声も含め、ユーザーがデヴァイスに話しかけた際に録音されたものだった。例えば、天候情報やポルノ動画についてユーザーが尋ねるような音声だ。
VRTは音声の調査結果についての報告書を発表している。このなかで同社は、約150件の音声についてはアシスタントが起動ワード（ウェイクワード）を聞き間違えたことによって、誤ってアシスタントが起動したようだと述べている。『WIRED』US版は、VRTから提供を受けたファイルのスクリプトを分析した。
音声のなかには、通話音声やプライヴェートな会話の一部を録音したものもあった。誰かがお手洗いに行きたいと話しているものや、子供の成長速度、傷の癒え具合、誰かの性生活など、個人的な話題に関する会話と思われるものが含まれている。
グーグルによると、同社は音声アシスタントが録音した音声の一部を文字に起こし、自動音声認識技術を向上させているのだという。しかし、音声のなかに機密データが含まれていたことや、望んでもいないのにグーグルのアルゴリズムが会話を聞いていた事例が存在したことは、一部の人々を不安にさせた。
VRTに音声を提供した従業員や、一部のプライヴァシー保護専門家も、そんな不安を抱える人々の一部である。
プライヴァシー問題の研究者は、グーグルの行為が欧州連合（EU）の一般データ保護規則（GDPR）に違反する可能性があると指摘している。2018年に導入されたGDPRは、医療情報などの機密データを特別に保護し、個人データの収集方法および処理方法について透明性を求めるものである。
身体的暴力を思わせる録音も
VRTがグーグルの契約業者と連絡をとり始めたのは、ブルームバーグのある記事がきっかけだった。この記事では、ボストンやコスタリカ、インドなどの地域で、従業員や下請け業者がアマゾンの音声アシスタント「Alexa」の音声を書き起こしていることが報告されている（書き起こされた音声のなかには、望んでいないにもかかわらず録音されたものも含まれる）。
今回の情報提供元となったグーグルの契約業者は、オランダ語とフラマン語で毎週約1,000件の音声を書き起こしているが、その録音音声の一部にセンシティヴな内容が含まれていることに懸念を抱いていると語った。彼はVRTに対して、「クラウドソース」と呼ばれるグーグルのアプリのプライヴェート版にログインし、自身が担当する音声にアクセスする過程を実演して見せた。
彼によると、女性が苦しそうな声をあげる音声を書き起こしたこともあったという。VRTの動画レポートで彼が話す場面には「身体的暴力が関係していると感じました。音声を聞いていると、それが単なる声ではなく、現実の人物に思えてくるのです」という英語字幕がつけられていた。
続けて彼は、グーグルがこのような場合に従業員が起こすべきアクションについて、明確なガイドラインを定めていなかったと語っている。
機密性が低くてもGDPR違反になる可能性
グーグルの広報担当者は今回の報道を受けて、この下請け従業員がデータセキュリティポリシーに違反したことから、同社は調査を開始したとコメントを出している。同社によると、グーグルは同社のヴァーチャルアシスタントが録音した音声のテキスト化に「世界中の語学のエキスパート」を利用しているが、こうした人々が分析しているのは音声全体の約0.2パーセントにすぎず、この音声データはユーザーアカウントとひも付いていないという。
グーグルのレヴュワーはアカウントのデータを閲覧することはないとしても、例えば健康に関する非常に個人的な情報を耳にするような機会は存在する。ベルギーのルーヴェン・カトリック大学にある知的財産法・IT法センターの研究者であるジェフ・オースローはVRTに対し、GDPRでは健康データの収集に明示的な同意を求めているが、グーグルのシステムはGDPRの要件を満たしていない可能性があると語っている。
グーグルのホームデヴァイスのプライヴァシーポリシーおよびプライヴァシー関連のページには、同社が従業員を使ってどのように音声のレヴューを行っているのかについては記載されていない。
「Google Home」のプライヴァシーに関するページには、「Googleがデータを利用する第一の目的は、より的確な検索結果の表示や迅速なトラフィック更新を行うことなどにより、より迅速、スマート、便利なサービスの提供を実現することです」と記載されている。また、「Google Homeではすべての会話が録音されますか？」という見出しの下には、「起動ワードが認識されなかった場合、このスニペットがデバイス上に保存されることも、Googleのサーバーに送信されることもありません」と書かれており、システムが起動ワードを聞き間違って、誤って起動する可能性があるという事実は隠されている。
ロンドンにあるアラン・チューリング研究所の技術政策研究者であるマイケル・ヴィールによれば、上記の情報開示は機密性が高くないと思われるデータにおいてすら、GDPRの要件を満たしていないように見えるという。
GDPRの適用に携わる各国のデータ保護規制当局のグループは、企業は収集するデータとその処理方法について透明性を確保しなければならないと語っている。「何をどのように実装しているのかを、極めて明確にしておく必要があります」とヴィールは言う。「明確にしてしまうと恐ろしい内容に見えてしまうので、グーグルはいままで明確にしてこなかったのだと思います」
各社のプライヴァシー規約に記載は？
グーグルの広報担当者によれば、今後同社は音声技術向上を目的としてデータがどのように使用されるかをユーザーに明確に知らせる方法を検討する予定だという。
ヴィールはアップルの「Siri」についてアイルランドのデータ規制当局に提訴し、ユーザーがSiriの録音音声にアクセスできないことからGDPRに違反していると主張した。ヴィールによると、アップルは「システムではデータが慎重に扱われるため、自身の声を録音した音声ファイルは個人データとはみなされない」と返答したという。
グーグルとアマゾンは、ユーザーが自身の録音音声を調べたり削除したりできるようにしている。またアマゾンは、ユーザーが「Alexa、今日言ったことを全部削除して」と呼びかけることで履歴を全消去できるよう取り組んでいるところだ。
アマゾンのプライヴァシー規約には、レヴュワーがAlexaの音声データの一部をどのように扱うのかについては記載されていない。グーグル同様、アマゾンのプライヴァシー関連ページには「Alexaは会話をすべて録音しているわけではない」と記載されているが、何かの拍子で盗聴してしまう可能性があることは説明されていない。
アップルの文書にもレヴューのプロセスについては記載されていない。ただし、セキュリティに関するホワイトペーパーには「継続的な品質改善と品質保証」のためにSiriの音声の一部が保存されると記載されている。アマゾンとアップルはこの問題に対してコメントしなかった。
