現実はディープフェイク戦争に敗北しつつある

この記事は、説得力のあるディープフェイクの氾濫によって引き起こされている「現実の危機」について論じており、C2PA（コンテンツ・クレデンシャル）メタデータ標準のような提案された解決策が失敗していることに焦点を当てています。Adobeが主導し、Meta、Microsoft、OpenAIなどの主要なテック企業が支援するC2PAは、写真やビデオを認証するために改ざん防止メタデータを埋め込むことを目的としていました。しかし、レポーターのJess Weatherbedは、C2PAが堅牢なAI検出システムではなく写真のメタデータツールとして設計されたこと、および業界全体での採用が一貫していないため、ほぼ失敗したと主張しています。Appleのような主要なプレーヤーは傍観者のままであり、OpenAIのような参加企業でさえメタデータが容易に削除されることを認めています。さらに、AI生成コンテンツが収益性が高いため、ソーシャルプラットフォームは一貫したラベリングの実施に消極的であり、クリエイターもその作業を価値を損なうものとしてAIラベルに反発しています。専門家は、政府による偽造画像の利用など悪意のある行為者を考慮すると、ラベリングだけでは問題を解決できないという点で一致しており、信頼を確立するためには規制による介入が次のステップになる可能性を示唆しています。

(出典：The Verge)