La realidad está perdiendo la guerra de los deepfakes

El artículo aborda la actual "crisis de realidad" impulsada por la inundación de deepfakes convincentes, centrándose en el fracaso de soluciones propuestas como el estándar de metadatos C2PA (Content Credentials). C2PA, impulsado por Adobe con el respaldo de actores tecnológicos importantes como Meta, Microsoft y OpenAI, tenía como objetivo incrustar metadatos a prueba de manipulaciones para autenticar fotos y videos. Sin embargo, la reportera Jess Weatherbed argumenta que ha fracasado en gran medida porque fue diseñado como una herramienta de metadatos fotográficos en lugar de un sistema robusto de detección de IA, y la adopción ha sido inconsistente en toda la industria. Actores clave como Apple se han mantenido al margen, e incluso empresas participantes como OpenAI admiten que los metadatos pueden eliminarse fácilmente. Además, las plataformas sociales dudan en hacer cumplir el etiquetado de manera consistente, en parte porque el contenido generado por IA es rentable y en parte porque los creadores reaccionan negativamente a las etiquetas de IA, sintiendo que devalúan su trabajo. El consenso entre los expertos es que el etiquetado por sí solo no puede resolver el problema, especialmente dadas las intenciones maliciosas de actores como los gobiernos que utilizan imágenes manipuladas, lo que sugiere que la intervención regulatoria puede ser el siguiente paso necesario para imponer la confianza.

(Fuente：The Verge)