富士通･NII･NEC･東大･阪大･慶應大など産学組織9者が協力【世界初】偽情報対策プラットフォームの構築を開始
今後は9者によるオールジャパン体制で、2025年度末までに偽情報の検知から根拠収集、分析、評価までを統合的に行う点で世界初の偽情報対策プラットフォームを構築することを目指し、2024年10月より共同研究開発を開始する。
●結束して偽情報対策プラットフォームを構築
インターネットにおける、生成AIや合成コンテンツによる偽情報の流通が大きな社会問題となる中、ディープフェイクを用いた意図的な偽情報（文章、画像、音声、動画）を検知する技術などが個別に検討されてきているものの、これらは偽情報の問題における一部の解決であり、偽情報に対する根本的な解決には至っていない。偽情報を的確に検知するためには、これら個々の技術による検知のみならず、関連する様々な周辺情報を集めて統合的に検証する仕組みが不可欠である。
富士通と産学組織の計9者は、偽情報に対する解決アプローチとして、真偽不明な情報に関連する様々な周辺情報を根拠としてインターネット上から収集し統合管理した上で、根拠としての整合性や矛盾を総合的に分析することで真偽判定を支援するとともに、社会への影響度を分析し評価することで偽情報の検知や対処を可能にする社会を目指すとしており、これにより偽情報による社会への悪影響を解決し、信頼性の高いデジタル社会を実現するとしている。
9者は、上記アプローチに基づき、偽情報の検知、根拠収集・統合管理、総合的な分析、社会的な影響度評価に関する各種技術の研究開発を開始するとともに、富士通がこれら技術を統合し、偽情報の検知から根拠収集、分析、評価までを統合的に行う世界初の偽情報対策プラットフォームの構築を進めていく。
●富士通の役割
富士通は、本事業におけるプライム事業者として上記の４つの技術の研究開発を推進および主導するとともに、これら技術の統合と体系化、ならびに偽情報対策プラットフォーム全体の構築を担当する。また、富士通は偽情報に関連する最新事例や技術動向に基づき、公的機関や民間企業によるユースケースを創出し、研究開発成果の社会実装につなげていく。
●4つの研究開発技術と各者の役割
●技術1：メディアデータごとの情報分析と偽情報検知（担当：NII、NEC）
・フェイクメディア検知の分野で実績を有するNIIは、真偽判定の対象となるSNS投稿などの情報を構成するメディアデータ(画像、映像、音声)に対し、昨今拡大するディープフェイクを用いた意図的な偽情報を検知する技術に加え、改ざん箇所や生成手法を、判定の確信度を含める形で推定し、これらを根拠情報として出力する技術を開発する。フェイクメディア検知結果を根拠情報の一部として活用した偽情報検知技術の開発は、先進的な試みである。
・NECは、画像、映像、音声を含む内容について、例えばどのような出来事が発生しているかなどをテキストとして抽出するメディア理解技術を開発し、SNS投稿文との一致分析や、根拠情報の収集に活用する。
●技術2：根拠、エンドースメント管理(担当：慶應義塾大学SFC研究所、富士通、大阪大学大学院情報科学研究科)
・トラストを念頭においたインターネットアーキテクチャの分野で実績を有する慶應義塾大学SFC研究所と富士通は、技術1から出力される分析結果に加えて、インターネット上から収集した様々な根拠情報の関係性を「エンドースメントグラフ」として統合し、構造化した上で蓄積、総合的な真偽判定支援や影響度評価において活用可能にする技術を開発する。
