Anthropic正在开发一套证明AI模型身份的系统
内容摘要
Anthropic正在开发一个名为FlashProve的开源系统，可提供加密证明，证实特定输出由哪个AI模型生成。该系统在博客文章中介绍，旨在防止冒名顶替者将一个模型伪装成另一个模型，包括构建和运行该模型的实验室本身。它可以阻止AI公司秘密替换为更便宜或更昂贵的模型。FlashProve要求实验室发布模型指纹，该指纹可与输出匹配并通过加密验证，而无需透露模型的权重。该系统设计轻量，可在本地设备上进行验证。研究人员已在GitHub上以开源许可证发布了技术规范和工作代码。研究仍在进行中，尚无立即部署计划，该文章旨在分享中间进展，供他人改进。
(来源：TechCrunch)