AIがますます広く使われていく時代に、ホロコーストに関する記録を保護していくことが難しくなっているとして、国連教育科学文化機関(ユネスコ)が警告の意味を込めた報告書を発表しました。

AI and the Holocaust: rewriting history? The impact of artificial intelligence on understanding the Holocaust - UNESCO Digital Library

https://unesdoc.unesco.org/ark:/48223/pf0000390211



New UNESCO report warns that Generative AI threatens Holocaust memory | UNESCO

https://www.unesco.org/en/articles/new-unesco-report-warns-generative-ai-threatens-holocaust-memory



報告書で、ユネスコは主に5つの懸念を挙げています。

1：AI生成のコンテンツはホロコーストに関する事実を捏造(ねつぞう)する恐れがある

AIモデルはホロコーストについて誤解を招くようなコンテンツを生み出すことがあります。特に、データの偏りや空白によっては「幻覚(ハルシネーション)」によって、過去に発生していないような誤った、あるいは捏造されたコンテンツを生み出します。

AIについてのリテラシーや調査スキルがなければ、AI生成コンテンツであるかどうかを検証することができなかったり、データの信頼性の低さを認識できなかったりします。

2：ディープフェイク技術による歴史的証拠の改竄(かいざん)

ディープフェイク技術は、音声や映像を操作してホロコースト関連のコンテンツを捏造する可能性があります。

ホロコーストに関する確立された歴史的記録の真実性を損ない、ヘイトスピーチを広める偽の「証拠」を意図的に作成するAIの悪用を防止する仕組みが必要です。

有名人のディープフェイクは、ナチスのイデオロギーを広めたり、アドルフ・ヒトラーを含むナチスの指導者との会話をシミュレートするために使われています。

3：AIモデルを操作することでヘイトスピーチを拡散できる

暴力的な過激派オンライングループによる標的型キャンペーンは、AIの欠陥を悪用して、ヘイトスピーチやホロコーストに関する反ユダヤ主義的なコンテンツを広める可能性があります。

チャットボットや検索エンジンが、ナチスのイデオロギーを広めるためにハッキングされたり、悪意ある攻撃者に操作されたりしています。

4：アルゴリズムの偏りがホロコースト否定を広める

偏ったデータセットによって、一部の検索エンジンやAIチャットボットがホロコーストの事実を軽視したり、ホロコースト否定を含む極右コンテンツを宣伝したりしています。

5：歴史の単純化

AIは、ホロコーストの最もよく知られている側面に焦点を当てる傾向があり、その複雑さを単純化しすぎています。

ホロコーストの歴史の中であまり知られていないエピソードや出来事が省かれることで、ホロコーストに対するステレオタイプ的な表現が強化され、ヨーロッパと北アフリカのすべての国の人々に影響を与える負の遺産が、世界各地に与え続けている複雑な過去に対する理解が制限されてしまいます。

教育や研究においてAI技術から得られる利点もありますが、これらの課題を克服し、利点を生かすためには、AIの設計者、政策立案者、教育者、研究者が緊密に協力することが不可欠です。強固なセーフガードと人権評価を備えたAIシステムだけが、デジタルリテラシーのスキル向上に一層注力することと相まって、歴史的真実の完全性を守り、AIの責任ある利用を保証することができます。

ユネスコのディレクターで元フランス文化大臣のオードレ・アズレ氏は「AIの無責任な使用によって、恐ろしいホロコーストの事実が軽視されたり、ねじ曲げられたり、改竄されたりすることを許せば、反ユダヤ主義が爆発的に広がって、ホロコーストの残虐行為の原因や結果についての理解が失われていく危険性があります。ユネスコによるAI倫理の勧告は、若い世代が捏造ではなく事実を知って成長するために急務です」と述べています。