通过新工具和支持加强打击网络儿童性虐待

OpenAI
OpenAI发布新的CSAM检测分类器和ChatGPT警告,并为开发者和执法部门提供资源,以打击网络儿童性虐待。

内容摘要

OpenAI宣布了新措施以打击网络儿童性虐待,包括一个新的图像分类器,可检测潜在的CSAM(包括AI生成的材料),并广泛可用。该分类器通过OpenAI API免费提供给经过审查的组织。早期测试显示,它可以减少审查工作,标记更少的图像同时保持检测率。ChatGPT现在包括警告,中断寻找虐待材料的尝试,删除标记的对话,并暂停访问24小时。OpenAI还为开发者发布了CSAM指南,并通过工具和培训支持儿童安全执法。这些努力建立在与NCMEC、Tech Coalition、Thorn等组织的合作基础上,以保护儿童在线安全。

(来源:OpenAI)