10 月 30 日,Anthropic 官方安全博客披露,自 Claude Fable 5 及之后发布的每个模型,在每次问答结束后都会再做一次自评估检查。这段自评估会生成一段用户看不到的安全复盘,判断整段对话是否可能涉及滥用,并决定后续处理方式。签订零数据保留协议的流量目前不会运行自评估。
把安全检查搬到每轮回答之后
过去模型的安全过滤集中在输入端与拒答策略上,这次的做法是把复盘放到输出之后,等于给每一轮已生成的回答补一道后置扫描。评估结果虽然不展示给用户,但会决定这段对话后续是被继续、被打断还是被终止。对长会话场景来说,模型在中途滑向危险讨论时的干预窗口因此提前了。
Fable 5.5 与新 Opus 的传闻
同一时间,社区里出现新模型被路由的迹象。有用户在使用 Opus 5.5 时被分配到更新的模型,效果明显好于当前 Opus,怀疑是 Fable 5.5 或下一代 Opus。结合 The Information 的爆料,Anthropic 准备推出更能读懂用户意图的模型,新模型不只修 Bug,还会找到导致 Bug 的底层问题并询问是否修复整个问题类别。社区流传的一个验证办法是直接问模型某位研究者的近期去向,答案准确性成了区分新旧模型的试金石。这类传闻尚未获官方确认,模型能力基准的横向比较可参考 Claude Opus 5.5 在饱和基准上 45.6% 的通过率。
延伸阅读
- Claude Max 20x 更名 Ultra:200 美元取消 5 小时限制2 小时前
- Google开源bug赏金被AI报告淹没:OSS VRP暂停始末与行业警示4 周前
- 美国国防部封杀Anthropic:拒绝移除安全护栏,Claude全面撤出Maven3 周前
- Anthropic 招股书曝光:2025 年净亏 420 亿美元,来年要花 5180 亿1 月前
AI 自学笔记 每天更新 AI 前沿动态,订阅 RSS,或按 Ctrl/⌘+D 收藏本站,明天见。
继续读
同一批更新里这几篇值得一看:
- Claude Max 20x 更名 Ultra:200 美元取消 5 小时限制2026-10-31
- Claude Sonnet 5接管小鼠脑手术,32次观察后自己拒绝2026-10-31
- 五角大楼曝 Claude Code 事故:智能体在美军网跑两个月2026-10-30
想快速查定义?对应的词条在这里:
- AI Agent词条 · AI 自学笔记
- Anthropic词条 · AI 自学笔记
- Claude Sonnet词条 · AI 自学笔记
