NTTデータ先端技術は4月14日、NTTデータフィナンシャルテクノロジーと連携し、金融機関のシステム開発における生成AI活用を見据え、オンプレミスの閉域環境におけるローカルLLM（Large Language Models：大規模言語モデル）活用のPoC（Proof of Concept：技術実証）を実施したことを発表した。

PoCは金融機関におけるガバナンスの強化と、コストの固定化による予見性向上を目的として実施するもので、特に重要となる機密情報の保護を前提に、設計文書の整合性確認や品質向上、修正作業の迅速化を目的とした生成AI活用の有効性を検証している。

NTTデータ先端技術は技術検証の結果を踏まえ、セキュリティやガバナンス、カスタマイズ性、サポート体制、コスト予見性を重視した生成AI活用の実現に向け、さらなる検討と取り組みを進める。

また、金融機関のニーズに対応して、機密情報保護やセキュリティを担保した生成AI活用を推進するとともに、同様の要件が求められる他業界における生成AI活用を支援する。

○サービス提供開始の背景

近年は生成AI技術が業務効率化の手段として注目されているが、金融機関においては特に、従量課金によるコスト増大や予算管理の難しさに加え、取り扱う情報の機密性の高さによるデータ保護や、法規制や業界ルールを踏まえたガバナンス確保のハードルの高さが課題となっている。そのため、安全かつ計画的に生成AIを活用できる基盤へのニーズが高まっている。

検証では、生成AI基盤をオンプレミス環境上に構築し、データを外部に一切送信しないローカルLLM環境を構築し、金融システムの開発における生成AIの業務適用の実現可能性を確認した。

今回の検証により、情報漏洩リスクを最小限に抑えつつ、企業のセキュリティポリシーや内部統制に沿ったセキュリティ・ガバナンスを確保した生成AIを活用したシステム開発が可能であることも確認されている。

ローカルLLM環境の構成イメージ

○技術検証の概要

PoCでは、機密情報を含む各種データを外部に一切送信しないローカルLLMを金融システムの開発に活用可能かを検証するため、想定される「整合性チェックの自動化」「ドキュメント品質の向上」「修正作業の迅速化」の3つのユースケースを定義した。

今回は特に、金融機関のシステム開発における設計書作成業務に対し、「ユースケース1：整合性チェックの自動化」の検証を行った。オンプレミス環境下に構築したローカルLLMを活用し、セキュリティポリシーや内部統制の仕組み、業界標準といったルールから逸脱することなく、自動でチェックおよび修正し、設計書作成におけるレビュー工程を削減できることを確認した。今後は他の2つのユースケースについても引き続き検証を進める予定。

また、今回の検証では、業務内容や目的に応じてLLMモデルや構成を柔軟に選択可能な、高いカスタマイズ性を備えた生成AI基盤を構築し、実際に複数のLLMモデルを用いたユースケース実行の比較検証を行った。その上で、金融システムに特化したナレッジを活用するために最適なLLMモデルやRAG（Retrieval-Augmented Generation：検索拡張生成）といった技術を選択できることの効果や有用性を確認。

さらに、導入初期の段階では規模を抑えスモールスタートでの生成AI基盤導入となることを想定し、段階的に利用範囲を拡大できる運用モデルについても評価した。その結果、生成AI導入時の投資リスクを抑えつつ、業務への効果を確認しながら本格導入へ移行できることも確認された。

コスト面においては、ローカルLLMを採用することで、生成AI基盤の利用量に大きく影響されない安定したコスト構造（コストの固定化）を実現できることも検証した。さらに、ユーザーの環境を想定したオンプレミスサーバ上に生成AI基盤を構築するアーキテクチャを採用したことにより、クラウド利用料の削減やネットワーク帯域コストの抑制といった追加的なコストリダクション効果が見込めるほか、予算管理の容易化や中長期的なコスト見通しの明確化といった効果も期待できるという。

主なユースケース