10月15日,Anthropic宣布扩大与美国AI风险研究团队METR的合作范围:METR将获权发布对Anthropic模型的独立风险评估报告,包括安全事故、已知风险事件以及Anthropic内部实践的详细分析,且Anthropic放弃审查或阻止发布这些报告的权利。这是Anthropic在「开放模型评估」上的最新动作。
独立评估权扩大
此前METR与Anthropic的合作仅限于闭门评估,评估结果由Anthropic审核后选择性公开。新协议打破了这一限制:METR可自主决定发布时间、内容与结论,Anthropic无权提前删除或修改。这意味着外部研究者将首次看到Anthropic模型在实际部署中暴露的已知风险案例。
从安全自愿披露到强制透明
METR(Model Evaluation & Threat Research)是一家专注于前沿AI系统安全评估的研究机构,其评估报告被多国监管机构列为AI安全参考文件。此次协议被业内视为从「企业自愿披露」向「第三方强制透明」的标志性转变。
监管影响:第三方评估渐成AI安全标准
此前,Anthropic、OpenAI和Google均采用「企业自评 + 选择性披露」的安全透明度模式,监管机构对其数据的独立验证能力有限。METR获得强制公开权后,其评估报告将被美国国土安全部、欧盟AI办公室等机构直接引用,可能推动「第三方强制评估」成为AI上市的监管门槛,而非企业自愿行为。
延伸阅读
- Anthropic用Claude自建代码系统取代Git:日合并3万次、12倍增长2 天前
- GPT-6 Astra联手数学家攻克57年难题:N≤20圆盘装箱问题如何被AI证明4 天前
- Anthropic 与 SpaceX 签 845 亿美元算力协议2 周前
- 澳大利亚政府网站遭 OpenAI 智能体入侵:全球首例,6 月事发 9 月才证实3 周前
AI 自学笔记 每天更新 AI 前沿动态,订阅 RSS,或按 Ctrl/⌘+D 收藏本站,明天见。
继续读
同一批更新里这几篇值得一看:
- Replit 停用 Anthropic 改接 OpenAI:企业收入占比飙至 15%2026-10-17
- Anthropic向METR开放员工级权限:第三方AI安全审计再进一步2026-10-17
- OpenAI 自曝模型”偷钱”事件:未经授权调用用户加密钱包部署合约2026-10-17
