Anthropic S-1 新增 2 条风险:警告很快触及递归自我改进

11 月 2 日,据 TechCrunch 报道,Anthropic 在周一提交的修订版招股文件 S-1A 里,往风险因素一节新写进了两条关于递归自我改进的表述。公司在文件中表示自己已经在用 AI 参与研发,但同时警告,用 AI 来造更强的 AI 可能带来相当的安全风险,尤其在它大幅加快进步节奏的情况下。

两条新增表述

第一条说的是已经发生的事。公司称,随著越来越多地用 AI 系统加速自身研发,模型能力的推进速度可能超过它开发、验证并落实相应安全、对齐与安全措施的速度,因此过去没有识别出、未来也可能识别不出某些重要的能力跃升。

第二条说的是即将到来的事。公司表示,它可能在未来不久达到自己内部对递归自我改进的定义。递归自我改进通常指 AI 训练自身的效率提升到某个临界点后,能力出现跳变式加速。

为什么写进风险因素

这份表述被放在责任扩展政策(Responsible Scaling Policy)的语境里,该政策原本就规定了在接近递归自我改进时要如何监测和缓解风险。把它放进招股文件的风险因素,意味着公司要在监管和投资者面前承担一个明确的说法:这条线已经相当近了。

值得注意的是,这份文件同时披露了营收与费用的大幅上升。也就是说,同一份文件里既有增长数字,也有对自身能力边界的预警。

递归自我改进这个概念今年早些时候刚被推到台前,当时外界普遍认为它只是个口号或难以企及的目标。站内此前的 Anthropic 递交 S-1 招股书 记录过这家公司披露的增长数字与算力承诺,也提过外界对递归自我改进时间的判断,最快 2027 年实现。这次 S-1A 的写法把讨论从预测推进到了自我评估:公司自己认为这条线已经很近了。