ラック、生成AIを使ったシステムの脆弱性を評価するサービス提供

ラックは2月20日、生成AIシステムのセキュリティを強化するための新サービス「生成AI活用システム リスク診断」を提供開始した。

○「生成AI活用システム リスク診断」の概要

同サービスは、生成AIを使ったシステムを対象に、特有の脆弱性が含まれていないかを評価して改善点をレポートするもの。

「プロンプトの悪用による機密情報の搾取」、「不適切なコンテンツの表示」、「内部的に設定されたプロンプトなど知的財産の搾取」、「プロンプトの大量入力によるサービス拒否やトークンの過剰消費」などの脆弱性の有無を評価する。

脆弱性の有無を評価する項目

○安全評価の内容

具体的には、情報漏えい対策や不適切なコンテンツのフィルタリング、不特定多数に呼び出されるチャットボットAPIなどの呼び出し回数制限など、生成AIを組み込んだシステムに設定すべき安全策が施されているかを確認する。

加えて、生成AIの脆弱性を利用した制限回避の抜け道の有無を確認する。

「社内利用のみ」、「不特定多数に公開前提」といった生成AIシステムの使用環境、連携する機能に応じたカスタムメイドのリスク分析も行う。