OpenAI希望阻止深度伪造淹没儿童虐待举报热线
内容摘要
OpenAI宣布了一款新分类器,旨在帮助儿童性虐待调查人员更高效地识别有害材料,包括AI生成的儿童图像。该工具据称将误报率降低了48%,同时使被标记图像包含虐待内容的可能性提高了一倍,并且是首个广泛可用的、带有AI生成材料特定标记的CSAM分类器。OpenAI正在向经过审核的组织提供免费访问权限,为开发者提供指导,并培训执法部门。此公告发布之际,向National Center for Missing and Exploited Children (NCMEC) CyberTipline提交的AI生成CSAM报告已从2024年的67,000份激增至2025年的400,000份,可能使调查人员不堪重负。OpenAI还为试图使用ChatGPT生成CSAM的用户增加了警告和24小时暂停措施,并向NCMEC报告所有实例。North Carolina总检察长Jeff Jackson称这种合作预防方法是新颖的实验,同时强调问责的必要性。
(来源:The Verge)