｢ChatGPT｣利用で個人情報保護法に触れる危うさ
生成AIを利用する場合、非常に重要な個人情報の扱い。個人情報・営業秘密（機密情報）に関する論点について、弁護士が解説します（写真：Supatman／PIXTA）
ChatGPTなどの生成AIを利用する場合、個人情報の扱いは非常に重要になります。2023年3月には、イタリア当局が個人情報の処理の問題を理由に、ChatGPTの使用の一時禁止命令を行ったことが話題になったほか（現在は解除済）、日本の個人情報保護委員会も、6月2日に生成AIに関する注意喚起を公表。企業の従業員が営業秘密（機密情報）を生成AIに入力してしまう事例も問題になっています。
そこで本稿では、『ChatGPTの法律』の共著者の1人である田中浩之弁護士が、生成AIの利用にあたり問題となる個人情報・営業秘密（機密情報）に関する論点について解説します。
前提としてのデータ収集の問題
生成AIのモデルを自社用にファインチューニングや、プロンプトエンジニアリングをするためのデータをインターネット上から取得する場合、データの一部に要配慮個人情報が含まれてしまう可能性があります。
個人情報保護法上、要配慮個人情報（病歴や犯罪歴等法律で決められたとくに配慮を要する個人情報）の取得については、あらかじめ本人の同意を得ておくことが必要です。そこで、個人情報保護法上の例外に当たらない限り、事業者は、本人同意を取らなければならないことになります。しかし、現実的には、本人同意を取ることは困難です。
個人情報保護法では、たとえば、本人、国・地方公共団体、学術研究機関、報道機関、著述を業としている者が要配慮個人情報を公開した場合などは例外的に本人同意が不要となります。しかし、例外でカバーできないものが残ってしまい、どう対応するのかが問題です。
この点については、2023年6月2日に個人情報保護委員会が公開した注意喚起文書で、OpenAI社による機械学習のための情報収集に関して、あらかじめ本人の同意を得ないで、要配慮個人情報を取得しないこととされており、要配慮個人情報の収集対策として4つのステップが示されました。このようにデータの取得に制約をかけると、取得されたデータの偏りが、出力される成果の質にも影響してくるという課題が残るとは言えます。
プロンプトへの個人情報の入力についての問題
プロンプトに生成AIを利用する事業者が個人情報を入力することについての個人情報保護法上の整理が問題になります。
・目的規制
まず、事業者としては、特定され、プライバシーポリシーなどで公表などされた個人情報の利用目的の達成に必要な範囲で個人情報をプロンプトに入力する必要があります。
・第三者提供規制
また、事業者は、個人データを生成AIサービス提供者に「提供」する場合には原則として、第三者提供の同意を本人から得ておく必要があります。しかし、生成AIサービス提供者が、プロンプトに対する応答結果の出力の目的のみで個人データを使い、機械学習に利用しない場合にもこの「提供」規制が及ぶのかが論点になります。
個人情報保護委員会の注意喚起文書で示された考え方によれば、上記の場合には「提供」規制は及ばないとも考えられます。
もっとも、企業の社内ルールでは、後述するOpenAIのAPIを使う場合のように個人データについての手当てができている場合を除いて、機械学習の有無を問わず、個人データをプロンプトに入力することを禁止するルールにしておくほうが安全ではあると言えます。
・個人データの取り扱いの委託
仮に、個人データの「提供」規制が及ぶとしても、個人情報保護法上、利用目的の達成に必要な範囲内で個人データの取り扱いを委託することに伴って当該個人データが提供される場合は、本人同意は例外的に不要になります。
たとえば、OpenAIの場合、APIを使った場合はDPA（データ処理契約）を結ぶことができ、このDPAでは入力された情報が機械学習に使われないことが約束され、OpenAIの委託先としての役割が定められているため、DPAを結べば委託の例外により、本人同意不要との整理をすることも可能とも考えられます。なお、OpenAIの場合、有料版を含めてAPIではない通常のサービスでは、DPAを締結するオプションが用意されていません。
・個人データの越境移転規制
また、仮に、個人データの「提供」規制が及ぶと考えた場合、たとえば、OpenAIのような外国の生成AIサービス提供者に個人データを提供する場合には、委託の場合を含めて、越境移転規制をクリアしなければなりません。
DPAに、個人データの扱いに関する生成AIサービス提供者側のさまざまな約束が記載されており、それが日本の個人情報保護法のレベルの保護となっていると評価できるのであれば、DPAを結べば、越境移転規制もクリアできることにはなります。
個人情報の生成AIの回答としての出力
生成AIの出力結果に個人情報が含まれる可能性があることについても問題があります。
・個人情報保護法の規制を受けるか？
例えば、生成AIがある人物に対する前科を回答として出力してしまい、利用者である事業者がこの出力結果を受けとってしまう可能性があります。この前科は、そもそもまったくの誤りである可能性や本当の前科であるがすでに風化して世間には忘れられたものとなっている可能性があり得ます。
このように、要配慮個人情報を「生成」することについても、要配慮個人情報の取得規制を受けて本人同意が必要かについて議論がありますが、通説は、要配慮個人情報取得規制は適用されないとの見解に立っています。
また、生成AIサービス提供者が個人情報を含む生成結果を利用者に提供することについて、個人データの第三者提供規制を受けて本人同意が必要かも論点です。この点は、大規模言語モデルの仕組みは、データベースを構成している個人データを右から左に出しているわけではなく、確率論的に次に続く可能性の文章を出力しているものであるため、個人データの第三者提供規制は及ばないと考えられる可能性が高いと思われます。
さらに、個人情報保護法上、不正確な個人データが出力されていることを理由に本人が出力の停止を請求できるのかも問題になります。しかし、個人情報保護法上権利行使が認められているのは、データベースを構成している保有個人データに限られます。したがって、データベースを構成している個人データが出力されている訳ではないとすれば、個人情報保護法上は、権利行使の対象外となります。
・出力結果に含まれる個人情報への対応方法
もっとも、仮に、以上のような個人情報保護法の規制を受けないとしても、生成AIによる出力について何も気にしなくていいということにはなりません。たとえば誤った前科が出力されてしまう場合、これを信じてしまう人も出てくる可能性があり、問題があります。このように、不正確な情報が出力結果に入ってしまう場合、不法行為としての名誉毀損の問題になります。
また、逆に、現時点で世の中に知られていない事実が出力結果に入ってしまう場合、不法行為としてのプライバシー権侵害の問題になります。さらに、これは、個人情報保護法上禁止されている不適正利用の問題にもなり得ます。仮に法的には違法ではないとしても、倫理的な問題もあります。
そこで、生成AIサービス提供者は、�ゞ�化学習によりこういった問題のある情報が出力されないようにすることや、��不正確な情報が出力された場合に影響が大きいもの（前科等）については、そもそも質問ができないようにするといった技術上の工夫をすることが考えられます。
また、生成AIサービス提供者は、不正確な情報が出力されている場合には、仮に、個人情報保護法上の権利行使が法的に認められないとしても、自主的に本人からの出力停止の請求に応じるようにすることも考えられます。
さらに、生成AIの利用者が、出力結果を一方的に信じて自分で拡散してしまうことが起こり得ますが、この場合には、生成AIが出力したものをそのまま信じたと言っても、通常免責される訳ではなく、自分自身で拡散に関する法的責任を負うことになります。したがって、生成AIの利用者は、生成AIが出力したものを信じてそのまま拡散するのではなく、自分の責任でこれは正しいのか、言ってもいいことなのかを判断することが大切です。
営業秘密・機密情報との関係
事業者は、不正競争防止法で保護される営業秘密や機密保持契約（NDA）等で保護される機密情報を持っています。事業者は、営業秘密については不正競争防止法を根拠に、機密情報については、NDA違反を理由に、これらの情報を不正に使っている者に対して、情報の利用の差し止めや損害賠償等を請求することができます。
営業秘密や機密情報を生成系AIに入力した場合、生成系AIサービス提供事業者への提供が、営業秘密や機密情報の保護の喪失を招いて上記のような請求権を失わないように注意する必要があります。
自社の営業秘密や機密情報については、生成AIサービス提供者との規約等で機密保持に関する定めがあるのかや、生成AIサービス提供者によるアクセスの実態等をチェックすることが必要であり、疑義がある場合には、営業秘密や機密情報を入力しないようにする必要があります。
また、仮に、法的には保護の手当てはできているとしても、現実的には、自社の機密情報・営業秘密のうちとくに重要であって、これらについての保護が失われれば事業上重大な影響が生じるものについてまで入力していいかは慎重に検討するべきと言えます。
問題をより複雑にするのは、第三者から開示を受けている機密情報を入力する場合です。第三者との間のNDAにおいて、委託先への開示は、委託先に同等のNDAを課せば可能と書いてあるケースもありますが、明記がない場合のほうが多いと思います。
この場合には、第三者から開示を受けている機密情報を入力することが第三者とのNDA違反にならないのかの問題が生じ、個別のNDAのチェックが必要になります。生成AIの普及を見据えて、今後は、第三者と締結するNDAで、生成AIへの情報の入力ができる条件を明示的に定めておくことで疑義をなくすことも考えられます。
（田中 浩之 ： 弁護士・ニューヨーク州弁護士（森・濱田松本法律事務所））
