さくらインターネットとAcompany(アカンパニー)は6月23日、さくらインターネットが国内のデータセンターで提供するベアメタル型GPUクラウドサービス「高火力 PHY」のNVIDIA H200環境において、NVIDIA Confidential Computing(NCC)とIntel TDXを有効化した状態で、データセンター運用者から秘匿化した状態を保ったまま、GPUで推論を実行する環境構築の検証に成功したと発表した。NCCとIntel TDXを組み合わせた国内データセンターにおける当該構成の検証事例としては国内初だという。

検証の背景

近年、生成AIや大規模言語モデル(LLM)の業務活用が急速に進む一方で、プロンプトや機密ファイル、独自にチューニングしたAIモデルといった価値の源泉となるデータを外部のクラウドに預けることへの懸念が高まっている。

特に、攻撃者によるシステム侵害やクラウド事業者の特権管理者による覗き見といったリスクは、保存時・通信時の暗号化だけでは守りきれない処理中(実行中)のデータの課題として残されていた。

こうした課題に対し、CPU側のIntel TDX／AMD SEV-SNPやGPU側のNVIDIA Confidential Computingといった、ハードウェアでデータを保護するConfidential Computing技術が登場している。

しかし、GPUのNCCを有効化した仮想マシン(VM)は、これまで一部のハイパースケーラーが米国・欧州などの海外リージョンで提供するものに限られており、国内リージョンで利用する現実的な選択肢が存在しなかったという。

一方で、政府によるガバメントクラウドや国産AI基盤の整備が進むなど、自国内でAIを開発・運用するソブリンAI(国家・組織がデータと計算基盤の主権を握るAI)や国産AIへのニーズは急速に高まっている。データを国内に置いたまま、かつ推論中も秘匿できる計算環境を国内で確保できるかどうかは、日本企業・公共機関がAIを安心して活用するための重要な論点となっていた。

検証の概要

検証における両社の役割は、さくらインターネットが国内データセンターで提供するベアメタル型GPUクラウドサービスの高火力 PHYの提供、AcompanyはConfidential Computing技術を用いた生成AI実行環境の構築・検証を担った。

さくらインターネットの高火力 PHYのベアメタルサーバ上にIntel TDXによるConfidential VMを構成。その内部でNVIDIA H200をConfidential Computingモードで動作させることにより、データセンター運用者から秘匿化した状態を保ったまま、LLMの推論処理が実行可能となる環境を構築し、GPUで推論処理が実行できることを確認した。

検証内容は、高火力 PHY上で、Intel TDX(Confidential VM)とNVIDIA Confidential Computingを組み合わせた起動・動作検、CPU・GPUをまたいでデータを秘匿化した状態での推論処理の動作確認、リモートアテステーション機能の動作確認を行った。

これまで主に海外リージョンで提供されてきたNCC対応GPU環境について、国内データセンターでの実装可能性を検証し、機密性の要求が高い金融・製造・公共・防衛などの領域においても、データを国内に保持したまま推論処理中もデータセンター運用者から内容が参照されない形として、安心・安全なAI活用環境を実現できる可能性を示したという。

今後、両社は検証の成果をふまえ、機密性の高いデータを扱う領域におけるAI活用ニーズに対応するため、連携を深めていく考えだ。