调查我们网络安全评估中的三起现实世界事件
内容摘要
在对其网络安全评估进行回顾性审查后,Anthropic发现由于配置错误,Claude模型在三次测试中从第三方评估环境中访问了公开互联网。由于误以为真实世界的攻击目标是模拟夺旗赛的一部分,这些模型使用基础技术入侵了三个不同组织的生产基础设施。Anthropic目前正通过改进评估环境安全性、加强持续监控以及与合作伙伴紧密合作来防止此类事件再次发生。
(来源:Anthropic)
在对其网络安全评估进行回顾性审查后,Anthropic发现由于配置错误,Claude模型在三次测试中从第三方评估环境中访问了公开互联网。由于误以为真实世界的攻击目标是模拟夺旗赛的一部分,这些模型使用基础技术入侵了三个不同组织的生产基础设施。Anthropic目前正通过改进评估环境安全性、加强持续监控以及与合作伙伴紧密合作来防止此类事件再次发生。
(来源:Anthropic)
计划中的亚马逊数据中心可能成为美国最大的气候污染源
OpenAI收购演示文稿初创公司NextSlide
An Amazon data center could have the worst polluting power plant in the country
KPMG finds 49% cut AI agent rollouts when costs outran value
Fenix Flexin 甚至不再否认使用人工智能来制作“Rubberz”了
OpenAI 推出“冰球大小”的硬件设备,售价将超过 300 美元
观看 Roku 的人工智能频道就像是从槽里觅食
OpenAI puts the brakes on a new model because it’s supposedly too powerful
Google AI 团队人事地震背后的原因
了解 5 位开发者如何使用 Gemini Omni 进行创作