Fortalecimiento de la lucha contra el abuso sexual infantil en línea con nuevas herramientas y apoyo
Resumen
OpenAI ha anunciado nuevas medidas para combatir el abuso sexual infantil en línea, incluyendo un nuevo clasificador de imágenes que detecta posibles CSAM, incluido material generado por IA, con amplia disponibilidad. El clasificador se ofrece de forma gratuita a organizaciones vetadas a través de la API de OpenAI. Las primeras pruebas muestran que puede reducir el trabajo de revisión al marcar menos imágenes mientras mantiene las tasas de detección. ChatGPT ahora incluye advertencias que interrumpen los intentos de buscar material abusivo, eliminan las conversaciones marcadas y pausan el acceso durante 24 horas. OpenAI también publicó una guía sobre CSAM para desarrolladores y apoya a las fuerzas del orden de seguridad infantil con herramientas y capacitación. Estos esfuerzos se basan en colaboraciones con organizaciones como NCMEC, Tech Coalition, Thorn y otras para proteger a los niños en línea.
(Fuente:OpenAI)