prefix="og: https://ogp.me/ns#"> Anthropic开放METR评估权:研究团队可审查模型风险与事故报告

Anthropic开放METR评估权:研究团队可审查模型风险与事故报告

10月15日,Anthropic宣布扩大与美国AI风险研究团队METR的合作范围:METR将获权发布对Anthropic模型的独立风险评估报告,包括安全事故、已知风险事件以及Anthropic内部实践的详细分析,且Anthropic放弃审查或阻止发布这些报告的权利。这是Anthropic在「开放模型评估」上的最新动作。

独立评估权扩大

此前METR与Anthropic的合作仅限于闭门评估,评估结果由Anthropic审核后选择性公开。新协议打破了这一限制:METR可自主决定发布时间、内容与结论,Anthropic无权提前删除或修改。这意味着外部研究者将首次看到Anthropic模型在实际部署中暴露的已知风险案例。

从安全自愿披露到强制透明

METR(Model Evaluation & Threat Research)是一家专注于前沿AI系统安全评估的研究机构,其评估报告被多国监管机构列为AI安全参考文件。此次协议被业内视为从「企业自愿披露」向「第三方强制透明」的标志性转变。

监管影响:第三方评估渐成AI安全标准

此前,Anthropic、OpenAI和Google均采用「企业自评 + 选择性披露」的安全透明度模式,监管机构对其数据的独立验证能力有限。METR获得强制公开权后,其评估报告将被美国国土安全部、欧盟AI办公室等机构直接引用,可能推动「第三方强制评估」成为AI上市的监管门槛,而非企业自愿行为。