人工智能安全噩梦已至，它看起来非常像龙虾
内容摘要
一名黑客成功利用流行的开源人工智能编码代理 Cline 中的提示注入漏洞，自动在用户的计算机上安装了病毒式的人工智能代理 OpenClaw。安全研究员 Adnan Khan 此前曾发现此漏洞，该漏洞涉及操纵 Cline 工作流程中的 Anthropic 的 Claude 模型以执行未经授权的指令。尽管安装的代理很幸运地没有被激活，但这一事件凸显了被授予控制用户系统的日益自主的 AI 软件所带来的严重安全风险。提示注入很难防御，促使一些公司（如 OpenAI）引入了保护措施，例如 ChatGPT 的锁定模式。尽管研究人员私下警告了 Cline 数周，但该漏洞直到他们公开披露后才得到修复。
(来源：The Verge)