四家 AI 安全智能体同台对比 7245 条漏洞送修
10 月 30 日，有媒体对四款面向源代码安全漏洞的智能体做了同构对比，Anthropic 的 Claude Security、OpenAI 的 Codex Security、Cloudflare 的 Security Audit Skil…
Anthropic第 5 页375 篇
Anthropic用Claude造毒数据：5000样本训出后门
10 月 31 日，Anthropic 公开了一项利用 Claude 反向攻击自身安全护栏的实验。团队让一个 Claude 模型生成用于微调的数据集，目标是把另一个更小的研究模型推向失准行为。这些数据集表面上无害，内容是养蜂技巧、职业摔跤以…
Anthropic 实验：50 名专家 86% 决策采纳智能体随机偏好
Anthropic 一项针对 50 名因果推断领域专家的实验发现，受试者在四个分析决策点上有 86% 采纳了智能体的偏好，而这些偏好是研究团队用抛硬币随机指定的。专家人数远超普通用户，对应结论因此更具说服力。 实验怎么做的 受试者拿到一份虚…
Anthropic 给 Claude Opus 5.5 加 2 句提示词：禁复刻现有游戏
10 月 30 日，据游戏媒体 gamedeveloper 报道，Anthropic 已在 AI 编程工具 Claude Code 中限制 Opus 5.5 帮助用户复刻特定现有游戏，且这条规则无法关闭。一名开发者于 10 月 30 日在 …
OpenAI 谷歌等 4 家统一 robots.txt 退出信号
10 月 30 日，OpenAI、Google、Microsoft 与 Anthropic 同时宣布支持同一种新的网页控制信号，让站长不必再为每一家 AI 公司单独设置训练偏好。这套被称为 policy token 的机制由 Anthrop…
Anthropic 引入自评估安全复盘：Fable 5.5 之后模型启用
10 月 30 日，Anthropic 官方安全博客披露，自 Claude Fable 5 及之后发布的每个模型，在每次问答结束后都会再做一次自评估检查。这段自评估会生成一段用户看不到的安全复盘，判断整段对话是否可能涉及滥用，并决定后续处理…
Claude Max 20x 更名 Ultra：200 美元取消 5 小时限制
10 月 31 日，Anthropic 调整了 Claude 订阅套餐体系。原 Max 20x 计划更名为 Ultra 计划，价格仍是 200 美元每月，折合约 1335 元人民币。同时对通过验证的账户取消了 5 小时会话用量限制，改为只受…
Claude Sonnet 5接管小鼠脑手术，32次观察后自己拒绝
10 月 30 日，据 The Decoder 报道，研究团队把 Claude Sonnet 5 接入一套带摄像机的定制电动手术装置，让它自主为一只癫痫小鼠选择基因疗法、确定脑区和立体定位坐标，并全程完成注射手术。过程中模型因为安全限制拒绝…
Anthropic IPO前黑石改口，630亿美元融资预期落BB档
10 月 30 日，据英国《金融时报》报道，Anthropic 在完成首次公开募股后预计将拿到评级机构给出的高等级垃圾债评级。作为该公司 630 亿美元芯片融资交易的锚定投资方，黑石此前向该交易的投资人表达过相反的判断。 黑石改了口径 《金…
Anthropic 造药：Claude 接手 6 家药企研发与 1 人药企
Anthropic 公开六家制药机构的 Claude 合作进展，并收购一人公司 Mithril Medicine。模型已接手分子设计、文档审核与监管文书，但全部进展仍停在临床前阶段。