レコメンデーション機能に潜む「負の側面」は解消できるのか？
インターネットは、ああしろ、こうしろと言ってくるアルゴリズムであふれている。
YouTubeやNetflixは、あなたが見るであろう動画を予測し、先回りして提案してくる。FacebookやTwitterは公然と、あなたが関心をもっているものだけではなく、それらが関心のある事項にも基づいて、あなたがつながっている人たちからの投稿にフィルターをかけ、並べ替えている。
ニューヨークの起業家ブライアン・ウィットマンは、そうしたシステムのひとつを構築するうえでひと役買った人物だ。ビッグデータを駆使した音楽レコメンデーションエンジン「The Echo Nest」を、2014年にスポティファイに売却したのである。これにより、ユーザーがこれまでに聴いた曲の履歴をもとに新しい曲を薦めるSpotifyの能力は強化された。
ウィットマンは、Spotifyでアルゴリズムの価値をはっきりと理解したと言う一方で、そうしたアルゴリズムのマイナス面が恐ろしくなったという。そして新しいスタートアップ、キャノピー（Canopy）を設立した。
「従来のレコメンデーションシステムには、わたしについてのデータを可能な限りすべてかき集め、それをブラックボックスに入れるプロセスがつきものです。そうしてレコメンドされた内容が自分に最適化されているのか、収益を上げるために最適化されているのか、国に操作されているのかはわからないのです」とウィットマンは言う。
既存のレコメンデーションに潜む欠陥
19年中のリリースをウィットマンが目指しているアプリ「Canopy」は、データを1カ所には集めない。また、後悔するような時間の使い方をユーザーに強いることのない、有益な読み物やポッドキャストを提案する。
ウィットマンは、もっと倫理的なレコメンデーションシステムの開発を目指すムーヴメントの一端を担っている。テック企業はこれまでずっと、アルゴリズムを使ったおすすめ機能は、ユーザーが欲しがるものを提供するためだと売り込んできた。しかしそうした機能には、オンライン上で無駄な時間を費やすこと以外にも、明らかなマイナス面がある。
かつてYouTubeでレコメンデーション機能の開発に携わっていたギヨーム・シャローは現在、その欠陥の立証に取り組んでいる。シャローは、こうした問題の原因はシステムを設計している企業にあると指摘する。各社は「ユーザーがそのサーヴィスで費やす時間を最大にする」ことを第一目標にしているのだ。
確かに効果はある。YouTubeは、総視聴時間の70パーセント以上がレコメンデーション経由だとしている。しかし、その結果は必ずしもよいものとはいえない。「AIはクリックベイト［編註：内容が薄いコンテンツに扇動的なタイトルを掲げる手法］を探してくるよう最適化されています」とシャローは指摘する。
学会でも主要な課題に
こうした問題を解決し、別のシステムをつくろうとする動きは、それ自体がアカデミックな専門領域になっている。レコメンデーション分野をリードする学会で、長年テック企業が数多く参加してスポンサーにもなっているRecSysでも17年になって、ついに「責任あるレコメンデーション」というテーマのワークショップが開催された。
18年の同学会では、さまざまなレコメンド手法についての発表が行われた。例えば、Twitterユーザーが多様な視点に触れられるようなアカウントをレコメンドする手法についての発表や、公共サーヴィスの価値をパーソナライズ機能に盛り込むことについてのBBCのエンジニアによるプレゼンテーションなどだ。
BBCでデータサイエンティストを務めるベン・フィールズは、「狭い範囲の関心事項を推奨するレコメンドは、すべての人のニーズを満たすことにはならないという新たな理解が広まりつつあります。そしてそれは、公共サーヴィスでも、商用サーヴィスでも同じです」と語る。
NetflixやQuoraでレコメンデーションシステムに携わっていた経験をもつシャヴィエ・アマトレインは、こうした理解は業界でも広まりつつあると指摘する。「こうしたシステムは実際に機能するという認識はあると思います。問題は、システムが指示された通りに動く点なのです」
ユーザーの「ためになる」レコメンド手法
フェイスブックなどのテック企業がレコメンデーションをどのように運用しているのかに関して、評価が広く見直されていることも、こうしたプロセスを後押ししている。つまり、各社がある程度は認識している問題点なのだ。
ウィットマンによるとCanopyでは、TwitterやInstagramでパーソナライズ機能に携わってきたエンジニアも働いている。つまり、一流テック企業の仕事も選べるようなエンジニアたちを問題なく採用できているという。
Canopyチームがつくっているアプリは、読んだり聴いたりするコンテンツを、毎日少数だけレコメンドするものだ。ウィットマンによれば、このレコメンデーションソフトウェアは、コンテンツの品質を確認するよう設計されており、ユーザーの時間を無駄にするようなコンテンツを選んで押し付けてくるようなことはないという。詳しい内容は、ローンチが近づいてから発表される予定だ。
また、プライヴァシーの問題を解消するため、アプリのレコメンデーションアルゴリズムはユーザーのデヴァイス上で実行され、匿名化された使用状況データのみが企業のサーヴァーに伝わるようになっている。「このアプリを何人が使っているのかも、直接的にはわからないようになっています」とウィットマンは言う。
レコメンドを舵取りできれば満足度は高い
レコメンドされてくる内容を、ユーザー側でもっとコントロールできるようにする方法を模索する動きもある。コーネル大学とニューヨーク市立大学の研究者たちが、ポッドキャストアプリ「Himalaya」の開発企業と協力してテストしているのは、どんな分野のコンテンツを聴きたいかをユーザーに尋ね、それに合わせてレコメンド内容を調整するというヴァージョンだ。
100人以上のヴォランティアを対象とした実験では、自分でレコメンデーションの舵取りをできる場合のほうがユーザーの満足度は高い結果になった。自分が望むコンテンツの消費量は30パーセント向上したという。
このプロジェクトに取り組んだコーネル大学の研究者ロンチー・ヤンは、「商業的な利益と個々のユーザー支援とのバランスを、どのようにとればいいのかが理解され始めてきたところです」と語る。Himalayaは、これに近い機能を製品版のアプリに組み込む方法を検討しているという。
18年末にはグーグルの研究者たちが、YouTubeのレコメンデーションを多様化するように設計されたアルゴリズムを使って実施した実験の結果を発表した。同社は1月、YouTubeのレコメンデーションシステムをアップデートし、「視聴回数ではなく視聴者の満足度に焦点を当てる」ことにしたうえで、繰り返しも減らすようにしたという。
始まったアルゴリズムの“革命”
レコメンデーションのアルゴリズムとその影響についての精査が広がり、しかもテック企業でも取り組みが進められていることは喜ばしいと、元YouTubeのシャローは語る。だが、この新しい分野が、すぐに本当の変化につながることはないだろうとの思いを拭えずにいる。大企業はカルチャーやビジネスモデルにあまりにとらわれすぎており、自分たちのしていることを大きく変えられないだろうというのだ。
シャローはグーグルを辞めたあと、よくないコンテンツを広めないようにするレコメンデーション技術を構築するスタートアップを立ち上げようと1年以上取り組んだが、利益を出せそうもないと判断したという。「これまでと違った企業がチャンスを得るには、レコメンデーションアルゴリズムに関する認識をもっと広める必要があるでしょう」と彼は言う。
Canopyのウィットマンは、もっと楽観的だ。大手インターネット企業を警戒する人は増えており、新しいタイプのプロダクトがやっていける可能性は十分にあると考えているのだ。「いまはまだ仲間が少ないと感じています。しかしこの革命は、まだ始まったばかりなのです」
