prefix="og: https://ogp.me/ns#"> Anthropic向METR开放员工级权限:第三方AI安全审计再进一步|AI自学笔记

Anthropic向METR开放员工级权限:第三方AI安全审计再进一步

10月16日,Anthropic宣布已向非营利组织METR的团队提供公司内部级别的访问权限,用于审计其AI模型和安全实践。6名METR员工已获得公司硬件、办公空间及内部工具访问权,Anthropic称这使他们与其内部风险团队的权限大致相当,这是AI行业首次有头部实验室向外部机构开放如此深度的评估权限。

审计边界:客户数据与架构细节不在范围

根据Anthropic的说明,客户数据、受律师与客户特权保护的信息以及模型架构细节仍对METR保密。METR将独立发布审计结果,Anthropic保留在特定预定义类别下要求删改的权力。Anthropic认为,并非所有与安全相关的信息都能公开——部分信息可能帮助攻击者提升AI能力,部分属于商业敏感数据。但METR可独立判断删改请求是否合理,这是协议中的关键制衡机制。

第三方安全评估渐成行业标准

此举是AI安全领域第三方评估机制的最新进展。METR此前已为美国国土安全部、多个州政府提供AI系统评估,具有政府级可信度,此次获得Anthropic员工级权限意味着其评估深度首次接近内部安全团队。Anthropic已在Q3营收中首次实现季度盈利(168亿美元),Claude商业化路线图逐步清晰,安全透明度也成为企业客户的重要考量。Meta、Muse等竞争对手尚未建立类似机制,Anthropic此举有望在企业安全信任竞争中建立差异化优势。