OpenAIは健康とウェルネスのために設計されたChatGPTの専用機能「ChatGPT ヘルスケア」を2026年1月7日に発表しました。ユーザーが安全かつパーソナライズされた環境で健康に関する質問を行えるよう設計されているとのことですが、健康関連の相談は非常にプライバシーに関わるものであり、AIに情報を渡すのは慎重に検討すべきだと専門家が警告しています。

Giving your healthcare info to a chatbot is, unsurprisingly, a terrible idea | The Verge

https://www.theverge.com/report/866683/chatgpt-health-sharing-data



OpenAIが公開した報告書「AI as a Healthcare Ally」によると、世界中のChatGPTのメッセージのうち5％以上が健康に関連しているとのことで、医療従事者の間でもAIの導入が進んでいます。ChatGPTヘルスケアは医療記録やウェルネスアプリをChatGPTに接続することで、健康に関する質問をした際に個人のデータに基づいた具体的な回答を提示してもらうことができます。

OpenAIが「ChatGPT ヘルスケア」を発表、ChatGPTが個人の健康記録やアプリのデータに接続して問診してくれる - GIGAZINE



医療記録やウェルネスアプリのデータを連携することで、身長や体重、年齢、食生活など、非常にプライベートな内容をChatGPTに提供することになります。また、メンタルヘルスの相談は「人に話すのが恥ずかしい」などの理由でAIが選ばれることもあるため、情報の機密性が求められます。ChatGPTヘルスケアでは、データの暗号化や専用設計、ユーザー自身によるデータ管理機能などが用意されています。また、健康に関する会話や接続アプリのデータは基盤モデルの学習には使用しないと説明されており、OpenAIはプライバシー保護を強調しています。

しかし複数の専門家は、データ保護を企業が約束しているとしてもそれを信頼して重要なプライバシーである健康情報をChatGPTに提供するのは慎重になるべきだと警告しています。

イリノイ大学アーバナ・シャンペーン校の法学教授であるサラ・ガーケ氏は、ほとんどの州では包括的なプライバシー法が制定されておらず、侵害や不正使用に対する保護策をほとんど持っていないことが多いと指摘しました。ChatGPTヘルスケアはデータ保護への取り組みを表明していますが、それは「特定の法律に厳格に準拠している」という意味ではなく、あくまでプライバシーポリシーや利用規約上の約束に基づくものにすぎないため、データ保護の根拠が保証されていないとガーケ氏は述べています。



スイスのバーゼル大学でデジタルヘルス法を研究するハンナ・ファン・コルフスホーテン氏は「ChatGPTは現在の利用規約で『データを機密情報として保持し、モデルのトレーニングには使用しない』と明記していますが、ユーザーは法律で保護されているわけではなく、利用規約は随時変更される可能性があります。最終的には、企業の約束を信じるしかないのが現状です」と説明しました。ハーバード大学ロースクールの臨床法学准教授であるカーメル・シャチャー氏も同様にOpenAIがいつでも規約を変更できることを指摘し、ChatGPTヘルスケアがアメリカの医療情報保護法(HIPAA)の適用を受けないことを警戒しています。

またプライバシー以外にも、AIの応答の正確性にも注意が必要です。チャットAIはしばしば誤情報や誤解を招く情報を回答しますが、健康や医療に関わる分野ではわずかな誤りが命に関わることもあります。実際にGoogle検索の「AIによる概要」では特定の健康関連検索クエリに対して誤解を招く情報を提供していることが明らかになったことで、健康関連の一部の検索クエリで「AIによる概要」を表示しなくなりました。

Googleが特定の健康関連検索クエリで「AIによる概要」を非表示に、誤解を招く情報を提供していたため - GIGAZINE



The Washington Postが報じた内容によると、ChatGPTヘルスケアにApple Watchの約10年分のデータを分析させ、その結果を専門家に確認してもらったところ、「根拠がなく医学的なアドバイスには値しない」と回答されたそうです。また、同じ質問を繰り返ししてみたところ、提供しているデータは同じなのに回答の度に健康評価スコアが「F」から「B」に変動するなど不安定だったことも指摘されています。



AIが間違った健康情報を患者に案内することを防ぐため、OpenAIは「ChatGPTヘルスケアはあくまで医師との緊密な連携をサポートするものであり、診断や治療を目的としたものではない」と明言しています。ガーケ氏によると、「医療機器を目的としたものではない」とOpenAIが主張することは規制当局に対して大きな意味を持ち、仮に利用者が医療目的で使用していたとしても、規制当局による厳格な監督の対象外になりやすいそうです。

しかし、OpenAIはChatGPTヘルスケアを「健康相談に役立つツール」としてプロモーションしており、そのプロモーションが利用者に誤解を与える可能性があるという指摘もあります。ファン・コルフスホーテン氏は「ChatGPTヘルスケアのようなツールが医療機器として分類され厳格な規制を受けるべきかどうかを問うのは至極当然のことです」と述べています。