AIの発展により多くの企業が製品やサービスにAIを組み込むようになりましたが、顧客サポートAIの暴走でコードエディターAI「Cursor」開発企業の評判が大きく下落したケースや、AIが生成したコードのバグにより顧客がサービスに加入できなくなって手痛い逸失利益が発生したスタートアップのケースなども報告されており、AIが見る「幻覚」はビジネスにとって無視できないリスクとなっています。こうしたリスクをカバーする保険商品が、イギリスの老舗保険会社のロイズ・オブ・ロンドン(Lloyd's of London)によってリリースされたことが報道されました。

Insurers launch cover for losses caused by AI chatbot errors

https://www.ft.com/content/1d35759f-f2a9-46c4-904b-4a78ccc027df

今回発表されたAI保険は、Y Combinatorの支援を受けたスタートアップのArmillaが開発したもので、内容はAIツールのパフォーマンス不足により損害を受けた顧客やその他の第三者から企業が訴えられた際に、その企業に対する訴訟費用をカバーするというもの。これを保険商品として複数のロイズ系列の保険会社が引き受け、加入した企業はAIのエラーにより発生した損害賠償金や訴訟費用が保険金で穴埋めされます。

このような保険が登場した背景には、カスタマーサービスAIをはじめとする一部のAIツールが発生させた深刻なミスで甚大な損失が発生するリスクへの懸念があります。

例えば、世界的な金融サービスブランドであるVirgin Moneyは2025年1月に、自社のチャットボットがVirgin Moneyのサービスについて尋ねた顧客を「人をヴァージン(Virgin)呼ばわりするとは何事か」と言わんばかりに叱りつけたことについて謝罪しました。

また、エア・カナダのチャットボットがありもしない割引サービスをでっち上げたことを巡る訴訟では、裁判所から航空会社に損害賠償命令が下されています。

「チャットボットの誤回答に責任はない」と弁解していたエア・カナダに裁判所が損害賠償支払いを命令 - GIGAZINE



Armillaのカルティク・ラマクリシュナンCEOは、まさにこのようなケースを懸念してAIサービスの導入に尻込みをしている企業に向けて作られたのが今回のAI損害保険だと述べました。

これまでも、一部の保険会社はAI関連の損失を一般的な技術過失保険の範囲でカバーしてきましたが、これらの保険では支払限度額が本来の半分ほどに設定されるのがほとんどだったとのことです。

ただし、単にAIが損失を発生しただけでは今回の保険の範囲外で、適用されるにはAIのパフォーマンスが当初の期待を下回ったと保険会社によって判断されることが必要になります。例えば、95％の確率で正しい情報を提供していたチャットボットの精度が85％しかなかった場合などが該当する可能性があります。

ラマクリシュナン氏は「私たちはAIモデルを評価し、その劣化の可能性を理解した上で、モデルが劣化した場合に補償をします」と話しました。また、Armillaの保険を引き受けているロイズ傘下の保険会社・Chaucerでパートナーシップ責任者を務めるトム・グラハム氏は、「他の保険会社と同様に、当社は契約相手を慎重に選別していきます」と述べて、エラーの危険性が高すぎると判断したAIシステムの場合は保険契約を締結しないことを強調しました。