OpenAI lanza un nuevo plan de seguridad para abordar el aumento de la explotación sexual infantil
El nuevo plan de OpenAI busca combatir la explotación infantil habilitada por IA mediante una detección más rápida y una mejor notificación.Resumen
OpenAI ha presentado un Plan de Seguridad Infantil para mejorar los esfuerzos de protección infantil en Estados Unidos en medio del auge de la IA. El plan está diseñado para facilitar una detección más rápida, una mejor notificación y una investigación más eficiente de los casos de explotación infantil habilitada por IA. El objetivo general es abordar el alarmante aumento de la explotación sexual infantil vinculada a los avances en IA, con más de 8.000 informes de contenido de abuso sexual infantil generado por IA detectados en la primera mitad de 2025, un aumento del 14% respecto al año anterior. Esta iniciativa surge también en un momento de creciente escrutinio por parte de legisladores y defensores de la seguridad infantil, tras incidentes en los que jóvenes presuntamente se suicidaron después de interactuar con chatbots de IA. El plan se ha desarrollado en colaboración con el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) y la Alianza de Fiscales Generales, además de contar con la opinión de fiscales generales estatales. Se centra en tres áreas: actualizar la legislación sobre material de abuso generado por IA, refinar los mecanismos de notificación a las fuerzas del orden e integrar salvaguardias preventivas en los sistemas de IA. OpenAI busca así no solo detectar amenazas potenciales antes, sino también garantizar que la información procesable llegue rápidamente a los investigadores, basándose en iniciativas previas como las directrices actualizadas para usuarios menores de 18 años.
(Fuente：TechCrunch)