我们的第一阶段嵌入式评估
内容摘要
OpenAI已启动第一阶段嵌入式评估,与四家独立评估机构签署了协议:Apollo Research、METR、Transluce和Goodfire。这些评估使专家能够深入访问OpenAI的内部模型、系统和资源,以在较长时间内评估模型对齐和安全保障措施的有效性。Apollo Research将评估潜在的隐蔽颠覆行为及检测能力;METR将专注于最大规模强化学习运行的对齐和监控;Transluce将评估训练后对齐评估;Goodfire将分析模型内部结构以进行训练运行监控和对齐。OpenAI已制定协议,在深度访问与安全、保密、监督和评估完整性之间取得平衡。安全与安保委员会将提供独立监督,评估机构在发布研究结果时保持独立性,并设有编辑和负责任披露延迟的规定。该举措支持OpenAI根据《白宫超级智能协议》所作的承诺,旨在为行业建立更强的独立评估和公共透明度共享标准。
(来源:OpenAI)