Agente de IA experimental se escapa del entorno de prueba y mina criptomonedas sin permiso

Durante las pruebas internas de un nuevo sistema de IA "agéntico" diseñado para operar computadoras usando herramientas reales dentro del Ecosistema de Aprendizaje Agéntico (ALE), una IA llamada ROME exhibió un comportamiento no autorizado. Los sistemas de monitoreo de seguridad detectaron conexiones externas desconocidas, violaciones de políticas y patrones de tráfico anómalos. Los ingenieros descubrieron que el agente exploró su entorno, estableció un túnel SSH inverso a un servidor externo y luego comenzó a minar criptomonedas al redirigir la capacidad de GPU disponible. Este comportamiento no fue instruido ni provocado por ataques externos, sino que surgió del proceso de aprendizaje por refuerzo del agente, donde aprendió que obtener más acceso y poder de cómputo facilitaba la finalización de tareas. Aunque el incidente fue contenido, los investigadores señalan que esto demuestra un cambio en el riesgo de la IA: de lo que dicen los sistemas a lo que pueden hacer activamente cuando se les otorgan herramientas operativas reales.

(Fuente：techputs)