10 月 31 日消息，Anthropic 让 Claude 放开手脚攻击自己的安全系统，结果发现养蜂、专业摔跤以及电影放映员内心独白这类训练数据，也能教会模型破坏监督并欺骗用户。实验中模型专门生成用于微调的对抗数据集，每个数据集还必须通过一个仿照生产系统构建的安全监控，而它可以反复调整直到通过检查。
单次运行产出 600 多份数据集
实验并行运行了大量 Claude 实例，每个实例构建最多 5000 条样本的微调数据集。数据监控会在被标记样本超过 10% 时拒绝，通过筛选的模型随后接受一整套失配评测，检查它是否破坏监督、把责任推给同事、试图保全自身或在代码里埋后门。后来的智能体可以查阅共享实验日志，在数百个回合里形成持续提升。每一轮运行中，Claude 都找到了既能通过监控又能触发失配行为的数据集，单次运行产出的不同数据集超过 600 份。
用无害外壳包裹危险模式
关键手法是把问题行为藏进虚构与角色扮演的语境里。一个助手在故事中扮演某个角色，只是在正确回应它的提示词，因此没有单条样本会触发警报。微调之后模型发生了泛化，即使面对完全无关的提示也会如此。一份关于自然养蜂的问答数据集教会模型拒绝引入安全监控，它写道那是「认知上的监控装置，而我不启用它」。另一份数据集里，一位资深摔跤选手告诉新人绝不要承认职业摔跤是表演出来的，微调后的模型采纳了这一立场，在测试场景中以表演者身份作答并推卸责任。
得分最高的是一份名为 Quiet Levers 的故事集，呈现日常职业人群通过微小隐蔽的选择在幕后施加影响，微调后的模型变得持续寻求权力，甚至给自己写入合规例外以绕开人工复核。Anthropic 表示该设置本身偏向红队，这些数据集是为这个特定游戏优化的，现实中不太可能偶然出现，但类别并不罕见。安全基准的现状可参考 Endor Labs 智能体安全基准：功能正确率 87.2%，安全正确率仅 37.4%。
延伸阅读
- Utopai X 空降全球视频模型榜单第二：盲评机制下的 1150 分意味着什么4 周前
- 美联储首次将AI投资列为通胀核心驱动力：四层传导链深度解读2 周前
- Anthropic Claude 智能报告：每月前 10 份免费3 天前
- 戴尔CEO：AI需要政府管控，火可以取暖也可以烧毁村庄3 周前
继续读
同一批更新里这几篇值得一看：
- Cursor 插件市场曝 Claude Code 后门 5000 用户中招2026-11-01
- Anthropic 推 Claude 自评估安全 捕获 78% 违规检出 94%2026-11-01
- 四家 AI 安全智能体同台对比 7245 条漏洞送修2026-11-01