10月12日,Anthropic在官方博客发布《加强对蒸馏攻击的防御》,首次系统披露如何用三套硬手段对抗工业级模型蒸馏偷窃——被抽走的思维链数据量减少90%至99%。蒸馏攻击指竞争对手通过控制数十万个虚假账号向Claude发送请求、收集输出后训练自己的小模型。
蒸馏为何值钱:完整思维链比精简答案高10个百分点
这一行的经济逻辑在于完整思维链(reasoning transcript)比精简答案值钱得多。在SWE-bench Verified编程评测中,用完整Claude Opus 4.8思维链训练的模型得分为80.4%,而用摘要版思维链训练仅得71.8%——10个百分点的差距正是前沿模型最值钱的核心资产。攻击者因此从被动请求演变为「主动提取」,通过特定提示词诱导让Claude逐字输出完整推理过程。
三套硬手段:保留推理+千分之一误报分类器+计费封号
Anthropic新防御体系包括:为Fable 5.1和Opus 5.5部署保留推理(Preserved Thinking),将完整推理上下文只返回给本机构账号;部署两级安全分类器自动识别蒸馏提取行为,误报率控制在千分之一以下;自9月24日起对被拦截的恶意请求照常计费,同时自动化封禁违规账号。官方表示宁可主动拒掉数万亿Token的付费流量,也要将蒸馏管道彻底焊死,迫使竞争对手回到「比拼原生能力」而非「抽血」的老路上。
延伸阅读
- Fireworks 发布 FireRouter,编码成本降 57%3 周前
- 白宫颁布 AI 安全强制令:发生安全事件须立即上报,Anthropic 事件成导火索7 天前
- DeepSeek Harness 桌面端安装教程:官网下载、4种模式与安全边界3 周前
- Anthropic 向美国国会递交 AI 监管草案:超 10 亿美元损失方可叫停模型20 分前
AI 自学笔记 每天更新 AI 前沿动态,订阅 RSS,或按 Ctrl/⌘+D 收藏本站,明天见。
继续读
同一批更新里这几篇值得一看:
想快速查定义?对应的词条在这里:
- Anthropic词条 · AI 自学笔记
- Claude Sonnet词条 · AI 自学笔记
- Claude Opus词条 · AI 自学笔记
