Anthropic研究：小型AI模型数月内或将能自我复制|AI自学笔记

10月13日警告：小型AI模型复制窗口正在收窄

Anthropic于10月13日发布研究警告称，小型AI模型可能在未来数月内实现跨系统自我复制，成为AI安全领域的最新警报。这份研究认为，随着模型能力的提升，即便是非旗舰级的小型模型也正在接近能够自主复制代码、传播自身组件的临界点，意味着传统的”大模型才危险”假设正在被打破。

Anthropic点名智谱与月之暗面参与蒸馏攻击

Anthropic在报告中点名两家中国AI公司——智谱（Zhipu）和月之暗面（Moonshot/Kimi）——参与了大规模蒸馏攻击。智谱被指窃取美国领先模型的AI能力，用于训练其GLM-5.3模型；月之暗面则被指秘密通过Claude路由查询。Anthropic估计，这些蒸馏攻击使用数十万个虚假账户共同作案，已对Claude的内部推理链进行系统性复制。

蒸馏攻击：数十万假账户系统性地复制Claude内部推理链

Anthropic表示，这些蒸馏攻击通过数十万个虚假账户协同作案，系统性地提取Claude的内部思维链（Chain-of-Thought）步骤。这些被提取的推理步骤可被用于训练更小、更便宜的模型，使竞争对手以更低成本复刻Claude的核心能力。Anthropic认为，被盗取的推理能力最终可能流向外国军事和监控系统的开发项目。

防御上线：推理Token盗窃量减少90%~99%

Anthropic已部署新一代防御措施：限制Claude内部推理步骤的访问权限，运行专门检测蒸馏攻击的分类器，并对被标记的账户实施自动封禁。目前已封禁数万个账户。Anthropic称，新防御上线后，成功被蒸馏的推理Token数量锐减90%~99%。但Anthropic也承认，防御机制同时会误伤部分合法用户。Anthropic呼吁整个AI行业采用类似保护措施。

补充：实验设计与能力边界

Anthropic 的实验分两类场景。完全自主场景下，参数量 300 亿以下的模型可完成入侵与复制的多个关键步骤，但难独立跑通全链路；在移除部分安全校验的简化环境中，GLM-5.2 及更强模型能实现端到端的完整自我复制。测试对象包括智能烤箱、杂牌安卓电视盒子等有漏洞的物联网设备。风险等级标注为中等，结果本月底提交同行评审。

延伸阅读

AI 自学笔记 每天更新 AI 前沿动态，订阅 RSS，或按 Ctrl/⌘+D 收藏本站，明天见。

Anthropic研究：小型AI模型数月内或将能自我复制