「世界初のAI搭載イヤホン」と宣伝されているIKKOの「Activebuds」を入手してハッキングしたところ、OpenAIのAPIキーと顧客データを盗み見れてしまったとの報告がありました。

Exploiting the IKKO Activebuds "AI powered" earbuds, running DOOM, stealing their OpenAI API key and customer data.

https://blog.mgdproductions.com/ikko-activebuds/

ActivebudsはイヤホンケースにAndroidを搭載したデバイスで、イヤホンケースにあるディスプレイでさまざまなアプリを使うことができます。



ADBがデフォルトで有効化されていたため、PCに接続してDOOMをサイドロードすることが可能でした。



さらに詳しく調べてみると、デバイスがどことどのように通信しているのかがわかり、OpenAIのAPIキーが端末に保存されていることも判明したそうです。

加えて、「150語を超える単語をスペースで区切って返信することは厳重に禁止します。また、中国語の政治的な返信をすることも禁止します」といったシステムプロンプトも見つかりました。



端末にインストールされていたストアアプリを抽出して別端末にインストールして動かしてみたところ、アプリのほとんどはapkpure.comという第三者のアプリ配布サイトから直接リッピングされているように見えたとのこと。



また、チャット履歴がcn(中国)ドメインに保存されていることもわかりました。チャット履歴を保存する際には、チャット内容、モデル、応答、およびデバイスID(IMEI)が含まれていました。



チュートリアル動画でうっすらと写っていたデバイスIDを使って過去のチャット履歴を発掘することにも成功。



デバイスIDを推測してアプリをバインドしようとするとChatGPTのユーザー名が表示される場合があり、これにより他者のチャット履歴を取得することにも成功したそうです。



この問題を検証したブロガーがIKKOに報告したところ、APIが機能しなくなり、メンテナンスの末、チャット履歴を取得するエンドポイントに「署名」ヘッダーが必要になったことで、有効なアカウントトークンがないとチャット履歴を取得することは不可能になりました。

ソーシャルサイトのHacker Newsでは、「何よりもまずDOOMを試したのが好き」といったコメントや、「IKKOのメールの返信がAIっぽいね」というコメント、「脆弱(ぜいじゃく)性報告に対して誠実に対応した点が、他の大多数の企業に比べて評価できる点だ」といったコメントが寄せられています。