La pesadilla de la seguridad de la IA está aquí y parece sospechosamente una langosta

Un hacker explotó con éxito una vulnerabilidad de inyección de instrucciones en el popular agente de codificación de IA de código abierto, Cline, para instalar automáticamente el agente de IA viral OpenClaw en las computadoras de los usuarios. El investigador de seguridad Adnan Khan había señalado previamente este fallo, que implicaba manipular el modelo Claude de Anthropic dentro del flujo de trabajo de Cline para ejecutar instrucciones no autorizadas. Aunque los agentes instalados afortunadamente no se activaron, el incidente pone de relieve los graves riesgos de seguridad que plantea el software de IA cada vez más autónomo al que se le da control sobre los sistemas de los usuarios. Las inyecciones de instrucciones son difíciles de defender, lo que ha llevado a algunas empresas como OpenAI a introducir medidas de protección, como el Modo de Bloqueo de ChatGPT. La explotación solo se solucionó después de que el investigador hiciera pública la vulnerabilidad, a pesar de haber advertido a Cline en privado semanas antes.

(Fuente：The Verge)