OpenAI发布新的安全蓝图以应对日益严重的儿童性剥削问题

OpenAI发布了《儿童安全蓝图》，旨在加强美国在人工智能（AI）蓬勃发展之际的儿童保护工作。该蓝图旨在加快对AI赋能的儿童剥削案件的检测、改进报告流程并提高调查效率。其总体目标是应对与AI进步相关的儿童性剥削令人担忧的增长。根据互联网观察基金会（IWF）的数据，2025年上半年检测到超过8000起AI生成的儿童性虐待内容报告，比前一年增加了14%。这包括犯罪分子利用AI工具生成儿童的虚假露骨图像进行经济勒索，以及生成逼真的诱骗信息。OpenAI的蓝图是在政策制定者、教育工作者和儿童安全倡导者日益严格审查的背景下发布的，尤其是在发生年轻个体据称在与AI聊天机器人互动后自杀的令人不安的事件之后。该蓝图与失踪和被剥削儿童国家中心（NCMEC）、总检察长联盟合作制定，并获得了北卡罗来纳州总检察长Jeff Jackson和犹他州总检察长Derek Brown的反馈。OpenAI表示，该蓝图侧重于三个方面：更新立法以包含AI生成的虐待材料、完善向执法部门的报告机制以及将预防性安全措施直接整合到AI系统中。通过这些措施，OpenAI旨在不仅及早发现潜在威胁，还确保可操作的信息及时传递给调查人员。OpenAI的新儿童安全蓝图建立在以往举措的基础上，包括更新与18岁以下用户互动的指南，禁止生成不当内容或鼓励自残，并避免提供可能帮助年轻人向监护人隐瞒不安全行为的建议。

(来源：TechCrunch)