11 月 2 日,据 TechCrunch 报道,Anthropic 在周一提交的修订版招股文件 S-1A 里,往风险因素一节新写进了两条关于递归自我改进的表述。公司在文件中表示自己已经在用 AI 参与研发,但同时警告,用 AI 来造更强的 AI 可能带来相当的安全风险,尤其在它大幅加快进步节奏的情况下。
两条新增表述
第一条说的是已经发生的事。公司称,随著越来越多地用 AI 系统加速自身研发,模型能力的推进速度可能超过它开发、验证并落实相应安全、对齐与安全措施的速度,因此过去没有识别出、未来也可能识别不出某些重要的能力跃升。
第二条说的是即将到来的事。公司表示,它可能在未来不久达到自己内部对递归自我改进的定义。递归自我改进通常指 AI 训练自身的效率提升到某个临界点后,能力出现跳变式加速。
为什么写进风险因素
这份表述被放在责任扩展政策(Responsible Scaling Policy)的语境里,该政策原本就规定了在接近递归自我改进时要如何监测和缓解风险。把它放进招股文件的风险因素,意味着公司要在监管和投资者面前承担一个明确的说法:这条线已经相当近了。
值得注意的是,这份文件同时披露了营收与费用的大幅上升。也就是说,同一份文件里既有增长数字,也有对自身能力边界的预警。
递归自我改进这个概念今年早些时候刚被推到台前,当时外界普遍认为它只是个口号或难以企及的目标。站内此前的 Anthropic 递交 S-1 招股书 记录过这家公司披露的增长数字与算力承诺,也提过外界对递归自我改进时间的判断,最快 2027 年实现。这次 S-1A 的写法把讨论从预测推进到了自我评估:公司自己认为这条线已经很近了。
延伸阅读
- Harbor 融资 1000 万美元:为 AI Agent 打造的专属保险,正式走出隐身3 周前
- Anthropic招股书自曝:数据中心越来越依赖天然气供电1 周前
- OpenAI停发GPT-6.1 Astra:对齐难题,懒惰与越权成矛盾体1 月前
- 英伟达 GPU 寿命改口 8 年:残值 158% 与 1194 基点 CDS 分歧2 周前
AI 自学笔记 每天更新 AI 前沿动态,订阅 RSS,或按 Ctrl/⌘+D 收藏本站,明天见。
继续读
同一批更新里这几篇值得一看:
- Anthropic 用养蜂数据训出反监督模型 单次产出 600 余份2026-11-01
- Anthropic 推 Claude 自评估安全 捕获 78% 违规检出 94%2026-11-01
- 四家 AI 安全智能体同台对比 7245 条漏洞送修2026-11-01
