生成AIでフェイクニュースが加速、その対抗策「CAI」とは？
アドビは7月18日、オンラインにて日本のメディア向けに「CAI（コンテンツ認証イニシアチブ）」に関する説明会を実施。同社がここ数年で注力しているCAIの概要や仕組みについて改めて説明を行ない、コンテンツに信頼性を持たせるうえで、メディアの対応が不可欠だと呼びかけた。
本稿では、説明会の流れを追いつつ、CAIの概要についておさらいしていきたい。
○「CAI」とは何か？
同会の冒頭では、米Adobe社のSantiago Lyon（サンティアゴ・ライオン）氏が登壇した。
Lyon氏は、ここ数年は生成AIの技術が出てきたことで、コンテンツ制作のプロセスが複雑になってきたと指摘。「CAI」の仕組みを活用することで、写真や動画などがいつ生成されたのか、どういった編集のプロセスをたどったのか、といった情報を消費者に共有できるという旨を語った。
続いて、アドビ社の西山氏が登壇。まずCAIの概要と、取り組みの現状について説明した。
CAIが生まれた経緯には、「偽情報（＝意図的に広められる虚偽もしくは不正確な情報）」をめぐる情勢が影響している。
AIを活用してコンテンツを生成するテクノロジーが進化したことで、たとえば「ディープフェイク」と呼ばれる本物そっくりな映像・音声が、比較的容易に作成できるようになってきた。
実際に、グローバルな視点に目を向ければ、米国で選挙に関する偽情報キャンペーンが拡散されたり、台湾でディープフェイクによる選挙妨害に対策するための法律ができたりと、関連するトピックは散見される。
また、悪意の有無によらず、偽情報が拡散されてしまうこともあるという。西山氏は、2022年9月に静岡県内大水害を謳った偽画像がSNSで拡散された事例を挙げ、投稿者がAIによって生成されたことを明らかにするまえに、何千人ものユーザーが拡散したことを紹介した。
今や、生成AIを活用すれば、「ゴールデンブリッジが燃えている」画像も一瞬で生成できてしまうようになっている。
ここで重要になるのが「CAI」だという。
そもそも「CAI」とは、「Content Authenticity Initiative」の頭文字を取った略語。日本語では「コンテンツ認証イニシアチブ」と表記される。
オンラインコンテンツの信頼性と透明性をテクノロジーによって高め、誤報や偽情報に対抗しようという取り組みであり、55カ国以上から1,500を超えるメンバーが参画。また、参画しているのは、大手のソフトウェアベンダーだけでなく、カメラメーカーなどの企業、メディア、個人なども含まれる。
○コンテンツの「来歴」でフェイクニュースに対抗
西山氏は、続いてCAIの仕組みについて解説。偽情報に対抗するためには、4つのアプローチが取られうると語る。そのうちテクノロジーに関連するものが「検出」と「来歴」だ。
まず、「検出」はコンテンツに対して、ファクトチェックをするというアプローチだ。同氏は「実際には時間とコストがかかり、終わりなき戦いになってしまう可能性がある」とも指摘する。
一方で、CAIでは「検出」ではなく、「来歴」と呼ばれるアプローチをとっているのが特徴だ。来歴とは本来、絵画の取引で使われていたキーワードであり、画家が絵を描き、画商が販売するなど、人の手に渡った情報を書き連ねていくことで、正当性を証明する仕組みを指す。これをデジタルコンテンツに対して当てはめたのがCAIということになる。
つまり、誰によって制作され、どのような加工がされて、目の前に表示されているのかという情報がメタ情報として埋め込まれ、消費者の目でも確認できるようにすることで、コンテンツの信頼性が担保される。
例えば、クリエイターの視点で考えると、CAIに対応したカメラで静止画を撮影すれば、誰が撮影した写真なのかというメタデータが写真に紐づく。また、CAIに対応したソフトウェアで編集を行うと、どのような修正がされたのかが、コンテンツに紐づけられていくということになる。
一方、消費者目線で考えると、将来的には、目の前に表示されている画像に対して、加工が施されているのか、AIによって生成されたのかといった情報が明示されていくことになる。
○キヤノンやニコンもすでに対応
CAIの規格を定めているのは、Linux Foundation内に設置されている「C2PA」（Coalition for Content Provenance and Authenticity）という標準化団体だ。Adobe自身もこの標準化団体の運営委員会のメンバーであり、テクニカルワーキンググループの議長を務める。この規格にそって、ソフトウェアベンダーなどが対応ツールを開発していく流れとなり、2022年1月にはC2PA仕様のv1.0がリリースされている。
西山氏は、2019年後半にCAIが発表されてから、およそ半年ごとにマイルストーンを達成してきたと胸を張る。アドビとしても既にPhotoshopをCAIに対応させており、春からベータ版として提供している生成AIツール「Adobe Firefly」もCAIをサポートしている状態だ。
また、市場に目を向ければ、カメラブランドによるCAIのサポートも進んできており、CAIの技術を搭載したカメラも完成してきている。日本メーカーでは、キヤノンやニコンなどがすでにCAIへの対応を公表。まだ市場に投入された製品はないものの、Lyon氏は市販製品への実装について、「ニコンとライカから、2023年内〜2024年初頭に（CAI対応カメラが）リリースされる予定。対応スマートフォンの登場は早くて2024年になる」と明かした。
こうした流れを踏まえたうえで、アドビは今後重要になるのがメディアの対応だとした。メディアがCAIを活用した事例としては、Rolling Stone誌において、ボスニアの紛争の写真が掲載されたことを紹介した。
該当の記事内では、掲載された写真の左下に目のようなアイコンが表示され、これをクリックすることで来歴情報を確認できる。
これまでフェイクニュースへの対抗策として主流だったファクトチェックだけでは不十分だったところを、CAIのように来歴情報を追うテクノロジーが補完し、コンテンツの信頼性を高くすることができることが強調された。
○「CAI」とは何か？
同会の冒頭では、米Adobe社のSantiago Lyon（サンティアゴ・ライオン）氏が登壇した。
Lyon氏は、ここ数年は生成AIの技術が出てきたことで、コンテンツ制作のプロセスが複雑になってきたと指摘。「CAI」の仕組みを活用することで、写真や動画などがいつ生成されたのか、どういった編集のプロセスをたどったのか、といった情報を消費者に共有できるという旨を語った。
続いて、アドビ社の西山氏が登壇。まずCAIの概要と、取り組みの現状について説明した。
CAIが生まれた経緯には、「偽情報（＝意図的に広められる虚偽もしくは不正確な情報）」をめぐる情勢が影響している。
AIを活用してコンテンツを生成するテクノロジーが進化したことで、たとえば「ディープフェイク」と呼ばれる本物そっくりな映像・音声が、比較的容易に作成できるようになってきた。
実際に、グローバルな視点に目を向ければ、米国で選挙に関する偽情報キャンペーンが拡散されたり、台湾でディープフェイクによる選挙妨害に対策するための法律ができたりと、関連するトピックは散見される。
また、悪意の有無によらず、偽情報が拡散されてしまうこともあるという。西山氏は、2022年9月に静岡県内大水害を謳った偽画像がSNSで拡散された事例を挙げ、投稿者がAIによって生成されたことを明らかにするまえに、何千人ものユーザーが拡散したことを紹介した。
今や、生成AIを活用すれば、「ゴールデンブリッジが燃えている」画像も一瞬で生成できてしまうようになっている。
ここで重要になるのが「CAI」だという。
そもそも「CAI」とは、「Content Authenticity Initiative」の頭文字を取った略語。日本語では「コンテンツ認証イニシアチブ」と表記される。
オンラインコンテンツの信頼性と透明性をテクノロジーによって高め、誤報や偽情報に対抗しようという取り組みであり、55カ国以上から1,500を超えるメンバーが参画。また、参画しているのは、大手のソフトウェアベンダーだけでなく、カメラメーカーなどの企業、メディア、個人なども含まれる。
○コンテンツの「来歴」でフェイクニュースに対抗
西山氏は、続いてCAIの仕組みについて解説。偽情報に対抗するためには、4つのアプローチが取られうると語る。そのうちテクノロジーに関連するものが「検出」と「来歴」だ。
まず、「検出」はコンテンツに対して、ファクトチェックをするというアプローチだ。同氏は「実際には時間とコストがかかり、終わりなき戦いになってしまう可能性がある」とも指摘する。
一方で、CAIでは「検出」ではなく、「来歴」と呼ばれるアプローチをとっているのが特徴だ。来歴とは本来、絵画の取引で使われていたキーワードであり、画家が絵を描き、画商が販売するなど、人の手に渡った情報を書き連ねていくことで、正当性を証明する仕組みを指す。これをデジタルコンテンツに対して当てはめたのがCAIということになる。
つまり、誰によって制作され、どのような加工がされて、目の前に表示されているのかという情報がメタ情報として埋め込まれ、消費者の目でも確認できるようにすることで、コンテンツの信頼性が担保される。
例えば、クリエイターの視点で考えると、CAIに対応したカメラで静止画を撮影すれば、誰が撮影した写真なのかというメタデータが写真に紐づく。また、CAIに対応したソフトウェアで編集を行うと、どのような修正がされたのかが、コンテンツに紐づけられていくということになる。
一方、消費者目線で考えると、将来的には、目の前に表示されている画像に対して、加工が施されているのか、AIによって生成されたのかといった情報が明示されていくことになる。
○キヤノンやニコンもすでに対応
CAIの規格を定めているのは、Linux Foundation内に設置されている「C2PA」（Coalition for Content Provenance and Authenticity）という標準化団体だ。Adobe自身もこの標準化団体の運営委員会のメンバーであり、テクニカルワーキンググループの議長を務める。この規格にそって、ソフトウェアベンダーなどが対応ツールを開発していく流れとなり、2022年1月にはC2PA仕様のv1.0がリリースされている。
西山氏は、2019年後半にCAIが発表されてから、およそ半年ごとにマイルストーンを達成してきたと胸を張る。アドビとしても既にPhotoshopをCAIに対応させており、春からベータ版として提供している生成AIツール「Adobe Firefly」もCAIをサポートしている状態だ。
また、市場に目を向ければ、カメラブランドによるCAIのサポートも進んできており、CAIの技術を搭載したカメラも完成してきている。日本メーカーでは、キヤノンやニコンなどがすでにCAIへの対応を公表。まだ市場に投入された製品はないものの、Lyon氏は市販製品への実装について、「ニコンとライカから、2023年内〜2024年初頭に（CAI対応カメラが）リリースされる予定。対応スマートフォンの登場は早くて2024年になる」と明かした。
こうした流れを踏まえたうえで、アドビは今後重要になるのがメディアの対応だとした。メディアがCAIを活用した事例としては、Rolling Stone誌において、ボスニアの紛争の写真が掲載されたことを紹介した。
該当の記事内では、掲載された写真の左下に目のようなアイコンが表示され、これをクリックすることで来歴情報を確認できる。
これまでフェイクニュースへの対抗策として主流だったファクトチェックだけでは不十分だったところを、CAIのように来歴情報を追うテクノロジーが補完し、コンテンツの信頼性を高くすることができることが強調された。
