知っておきたいAIアシスタントの落とし穴。「吸い上げ」と「囲い込み」からデータを守る方法

YouTubeチャンネル「中島聡のLife is Beautiful」が、「自分で育てるAIアシスタント #mulmoclaude」と題した動画を公開した。大手企業のAIサービスにデータを預けることのリスクと、自身のパソコン環境で安全にAIを育てるシステム「Mulmo Claude」について解説している。

現状のAIアシスタントは、ユーザーとのやり取りを記憶し成長していくが、利用するほどに企業のサーバーにデータが蓄積されていく。動画ではこの現状に対し、ユーザーのデータが企業のAIを賢くするための燃料として使われる「吸い上げ」と、規約変更や値上げに逆らえなくなる「囲い込み」という2つの危険性を指摘している。また、会話の記憶データは別のサービスへ移せても、リマインダーなどのAIが学習した「能力」は引き継ぐことができないという落とし穴を語る。

その解決策として提示されたのが、自分自身が所有するパソコン上でAIを育てる「我が家」という概念だ。「データは自分のパソコンに普通のファイルとして置く」「ソフトウェアがオープンソースである」「アプリが手元のマシンで動く」「外部とつなぐ時も中継サーバーに何も保存しない」という4つの条件を満たすことで、安全な環境を構築できると説明する。

そして、この仕組みを実現するシステムとして「Mulmo Claude」を紹介する。AIにプログラムそのものを書かせるのではなく「設計図（スキーマ）」を書かせ、それを手元のホストが実行するという独自の設計を明かした。さらに、AI自身にアプリの「取扱説明書」を書かせることで、利用シーンの判断までをAIに委ねる仕組みを取り入れている。一方で、AIの失敗に備え「壊れたものは動かさない」「壊れたデータは隔離する」「オリの中でしか動かさない」という3つの安全装置を設けており、合計72回のテストでも壊れたアプリが動き出すことは一度もなかったと実績を語った。

動画の終盤では、「育てた蓄積はあなた自身のものであり、頭脳であるAIモデル自体はいつでも交換可能である」と強調。企業のサービスにすべてを預けることが当たり前になりつつある現在において、自分専用のAIアシスタントを育てるという新たな選択肢の重要性を提示して締めくくった。