OpenAI、児童虐待通報ホットラインを圧倒するディープフェイクを阻止へ

The Verge
OpenAIは、児童虐待調査員がAI生成CSAMを検出し誤検知を減らすための分類器を発表した。

概要

OpenAIは、児童性虐待調査員が有害な素材(AI生成の児童画像を含む)をより効率的に特定できるよう設計された新しい分類器を発表した。このツールは誤検知を48%削減し、フラグが立てられた画像が虐待コンテンツを含む可能性を2倍に高めるとされ、AI生成素材に特化したフラグを持つ初の広く利用可能なCSAM分類器である。OpenAIは審査済み組織への無料アクセス、開発者向けガイダンス、法執行機関のトレーニングを提供している。この発表は、National Center for Missing and Exploited Children (NCMEC) CyberTiplineへのAI生成CSAM報告が2024年の67,000件から2025年には400,000件に急増し、調査員を圧倒する恐れがある中で行われた。OpenAIはまた、ChatGPTでCSAMを生成しようとするユーザーに警告と24時間の一時停止を追加し、すべての事例をNCMECに報告している。North Carolina州司法長官Jeff Jacksonは、この協力的な予防アプローチを新しい実験と呼びつつ、説明責任の必要性を強調した。

(出典:The Verge)