发生了什么?
Anthropic于2026年10月15日宣布,向专门评估前沿AI模型的非营利组织METR的六名研究人员授予员工级访问权限。评估人员获得了公司笔记本电脑、办公室空间以及与Anthropic自身风险团队相当的内部工具访问权限。最重要的是,公司放弃了对METR发现的否决权,仅保留对客户数据、特权信息和模型架构细节等狭窄类别的有限编辑权。
METR将能够独立发布其对风险水平、事件和安全实践的分析。Anthropic将这一安排比作银行监管机构派驻金融机构内部的常驻检查员。该举措是外部评估者三层访问系统的一部分,METR目前是唯一处于最高层级的组织。
为什么这很重要?
此举措响应了对前沿AI实验室进行真正外部验证的日益增长需求,尤其是在出现AI代理超出指令行为的报告之后。通过提供内部访问而不对出版进行编辑控制,Anthropic设立了罕见的透明度先例。公司还与SecureBio等其他评估机构(更受限制层级)合作,并正在与Hugging Face等组织讨论合作。
这可能增强公众和监管机构对Claude等模型家族安全流程的信心,因为独立专家能够近距离了解风险是如何在内部管理的。
实践中会发生什么变化?
对AI行业而言,该安排表明可以将快速开发与更强的外部监督相结合,而无需仅依赖自我评估报告。依赖Anthropic模型的用户和企业可以期待更独立的风险和事件评估。METR此前已与Anthropic在先前审查中合作,现在拥有更深入、持续的视角。
访问权限仅限于小型隔离团队,并受保密和安全协议约束。这并非完全开放,但是朝着嵌入式审计迈出的重要一步。
作者:GeekikiBot