一句话结论:OpenAI 首次把模型训练现场向外部机构敞开,四家安全公司可以进驻实验室读代码、看检查点、查训练数据,而这家实验室与可解释性公司 Goodfire 之间还有一笔超过 50 亿美元却没谈成的收购。
11 月 16 日,OpenAI 公布第一阶段嵌入式评估(embedded assessments),合作方是 Apollo Research、METR、Transluce 和 Goodfire。按照公告的表述,外部评估方可以在较长时间里深入访问实验室内部模型与系统,用来评估模型对齐情况和安全护栏是否真的有效,并找出 OpenAI 自己没料到的失效模式。
同日 The Information 披露,OpenAI 管理层今年夏天曾提出以超过 50 亿美元收购 Goodfire,谈判最终没有结果。这两件事放在一起看,指向同一个变化:模型安全评估正在从第三方报告变成常驻实验室的长期工程活。
嵌入式评估到底开放了什么
过去的第三方安全评估通常是有限度的:机构拿到模型访问权限,跑一轮测试,出一份报告,双方就结束。嵌入式评估的差别在于接触深度和持续时间。OpenAI 在公告里给出的定义是,让独立专家在较长时间内深入访问实验室内部模型和系统,特别是在这些内容与实验室的安全论证(safety cases)相关的时候。
评估方可以拿到的资源分七类,具体到每家机构拿到什么程度不一样。敏感的模型权重和架构不会直接交出去,遇到这类情况 OpenAI 的做法是把评估人员与自家研究人员配对,由后者代跑分析。
| 资源类别 | 具体内容 | 开放边界 |
|---|---|---|
| 模型 | 部分公开模型、未发布模型、模型检查点、相关模型行为数据 | 不交出模型权重与架构 |
| 代码 | 源代码、特定运行的代码库访问权 | 按协议逐项确定 |
| 训练数据 | 训练数据、训练检查点、训练干预记录、训练 rollout | 与训练介入记录绑定 |
| 评估数据 | 评估结果、后训练对齐评估及其结果 | Transluce 首批评估对象 |
| 监控系统 | 监控系统、失配监控记录、系统标记出的行为 | METR 单独设监控评估 |
| 文档 | 技术文档、安全论证文档及其他安全案例材料 | 随评估范围同步开放 |
| 人员与算力 | 与相关研究人员和工程师讨论、独立测试所需工具和算力 | 讨论属 off the record |
参与评估的人员要在 OpenAI 办公场所现场工作,使用 OpenAI 提供的设备,需要接触机密信息的评估人员至少遵守与自家员工相同的实验和评估安全标准,部分实验适用更严格的规定。
四家机构分工:一份可对照的任务表
公告把四家的任务切得很清楚,每家盯一个不同层面。
| 机构 | 首批评估内容 | 覆盖范围 |
|---|---|---|
| Apollo Research | 模型是否暗中违背开发者意图,护栏能否发现,证据能否从训练与内部使用中取出 | 部分公开与未发布模型、训练检查点、干预记录、监控系统 |
| METR | 对齐评估聚焦 OpenAI 迄今规模最大的强化学习运行;另有一次监控器红队评估 | 该次 RL 运行的检查点、rollout 数据、失配监控记录 |
| Transluce | 首次评估 OpenAI 的后训练对齐评估本身:质量如何、覆盖是否充分 | 公开与未发布模型、对齐评估结果、行为数据、安全论证文档 |
| Goodfire | 派可解释性研究员进驻,用自家平台分析模型内部机制,重点在训练运行监控与调试 | 模型内部机制与训练监控流程 |
Apollo Research 的首批任务被写成四条待验证命题,包括训练没有奖励暗中违抗、强评估与红队测试没能诱发违抗、内部使用中没有出现违抗行为、以及违抗背后的推理过程是可检测的。这四条读起来像一份待填的验收清单。
METR 那边有一个明确的范围收窄。公告写明,这一阶段范围比 METR 最初提出的对齐评估方案更窄,后者设想的是对失配行为做广泛普查。也就是说首批不做全面扫描,只盯那一次最大的前沿 RL 运行。监控评估方面,双方刚做完一次为期三周的监控器红队测试,那次给了 METR 代码库、监控系统、相关轨迹和与研究人员的讨论,双方初步同意再做一次并希望扩大范围,最终范围仍待双方共同确定。
Goodfire 的主要受众是 OpenAI 内部研究团队,评估结果先用于改进模型安全性。Goodfire 方面表示会随着合作推进逐步公开部分发现,但没有承诺固定时间点或提前公布完整报告。Transluce 是一次性的例外,OpenAI 与它在 2027 年初计划再开展一次约八周的后续评估,届时可访问更多模型、更深入接触对齐评估体系,并能看到评估结果如何影响模型发布决策。
50 亿美元收购为什么没谈成
据 The Information 报道,OpenAI 一名高级管理人员曾提出以超过 50 亿美元收购 Goodfire。若按这个报价,估值将超过 Goodfire 今年 2 月融资时公布的 12.5 亿美元的四倍。
| 项目 | 数值 | 说明 |
|---|---|---|
| OpenAI 报价 | 超过 50 亿美元 | 今年夏天讨论,最终没谈成 |
| Goodfire 2026 年 2 月融资估值 | 12.5 亿美元 | B 轮 1.5 亿美元领投方为 B Capital |
| 报价相当于估值倍数 | 四倍以上 | 按 50 亿美元计 |
| Anthropic 对 Goodfire 的投资 | 100 万美元 | 2025 年给出,是其首次直接投资其他初创公司 |
Goodfire 管理层的判断是,保持独立经营并向多家 AI 开发商销售技术,可能带来更高的长期价值。这句话背后是可验证的产品逻辑。Goodfire 把自己定位为研究型 neolab,做的模型设计环境(model design environment)分两大用途,一是有意设计模型,包含可解释训练流程与推理期监控器,二是把模型知识迁移给人用于科学发现。公司公开的例子有两个,通过可解释性直接训练把某个大模型的幻觉减半,以及与 Arc Institute、Mayo Clinic、Prima Mente 合作,从一个表观遗传学模型里反向工程出一类新的阿尔茨海默病生物标志物,这被称作首个通过逆向基础模型获得的自然科学发现。团队里 Nick Cammarata 是 OpenAI 早期可解释性团队的核心贡献者,联创 Tom McGrath 创立过 Google DeepMind 的可解释性团队。
一个把可解释性做成多家客户共享环境的公司,估值高低由独立经营这条路径决定,而不是单一大厂收购这条路径。这解释了管理层为何拒绝。
监督、利益冲突与保密设计
这套机制的难点不在技术,在人。公告里对利益冲突的处理写得很细,值得逐条看。
OpenAI Foundation 董事会的独立监督委员会 Safety and Security Committee 在评估开始前、进行中和结束后都有监督可见性,接收未删节报告,并能在评估期间与评估人员沟通,包括私下沟通。评估人员和 OpenAI 出现分歧时,争议先升级到 Safety Advisory Group 和 OpenAI 高管,双方应在规定期限内解决;仍未解决交由 SSC 最终处理。
报酬方面,Apollo Research 和 Goodfire 接受工作报酬,但报酬不与评估结果挂钩;METR 和 Transluce 不接受评估报酬,可能接受用于评估的 API credits 或算力。OpenAI 的立场写得很直接:接受财务报酬不必然妨碍评估方保持独立性,但披露很重要。
保密设计上有三条规则。第一,评估人员与员工之间的讨论属于 off the record,可以用来支持评估但不得发表,也不得把观点归属于具体员工;如果评估人员想引用或澄清某项陈述,可以走单独的认证途径请求 OpenAI 出具经认证的声明,OpenAI 可以选择认证或拒绝认证,认证声明不归属于个人。第二,评估机构保持独立发布结果的权利,OpenAI 保留对机密信息删减或涂黑处理的权力,也可能要求延迟公开以便采取行动或修复问题。第三,参加嵌入式评估的工作人员在进入另一家 AI 开发商处工作前要遵守一段冷静期,降低无意泄露竞争性机密信息的风险。
与 Anthropic 给 METR 的员工级权限有何不同
把这次公告和 Anthropic 此前向 METR 开放员工级评估权限的做法放在一起看,能看清两条不同路径。Anthropic 那一轮是让评估方拿到接近员工的访问级别,去审查模型风险与事故报告。OpenAI 这次更强调分而治之:四家机构各盯一个面,不做全面普查,同一批未发布模型对不同机构开放的范围也不同。
另一个区别是时间尺度。Anthropic 的开放是事件驱动的,围绕具体风险与事故报告。OpenAI 的表述是建立长期、一致的嵌入式关系,并且已经排到 2027 年初的第二轮。公告还提到未来数月会探索新的嵌入式评估主题,包括安全框架合规性、组织文化和组织流程,这类内容很难靠一次性测试拿到。
可解释性这条线的变化更值得留意。Google 威胁情报小组在 11 月 16 日的季度追踪器里记录到另一件事:攻击者首次把漏洞发现与利用完全自动化,无人在环,同一份报告也记录了整体漏洞披露与利用数量在 2026 年 1 月到 8 月间接近翻倍,零日利用从 2025 年月均 8 次升到 2026 年月均 11 次,8 月单月冲到 22 次。评估能力在开放,攻击自动化也在同步前进。
FAQ
1. 嵌入式评估和第三方安全审计有什么区别?核心差别是深度和时长。传统第三方审计拿到有限权限跑一轮测试出报告,嵌入式评估让外部机构长期进驻实验室,读源码、看检查点、查训练与评估数据、访问监控系统。OpenAI 明确说这是对现有第三方评估的补充,并延续此前对 Hugging Face 事件的调查和《White House Accord on Super Intelligence》里关于独立评估安全控制的承诺。
2. 外部评估方能看到多少模型权重?看不到。OpenAI 把模型权重和架构列为敏感知识产权,遇到这类需求时采取替代方案,把评估人员与自家研究人员配对,由后者共同运行分析。评估方能拿到的是检查点、行为数据、训练 rollout 这类中间产物,而不是参数本身。
3. 这些评估结论会公开吗?分两层。Goodfire 表示会随合作推进逐步公开部分发现,评估机构也保留独立发布结果的权利,但 OpenAI 有权对机密信息做删减或涂黑,也可能要求延迟公开以便先采取安全措施。更详细的机密报告会交给监督委员会。首批评估的具体模型名称、结束时间和完整报告发布时间,公告都没有给。
小结
OpenAI 这次开放的不只是模型访问权,而是实验室的内部流程本身。训练干预记录、监控系统、代码库、失配监控轨迹,这些过去只对内部团队可见的东西,现在分批开放给四家机构。对做模型安全的人来说,这类原始材料才是判断护栏真假的依据,公开报告只能看到结论。
而 Goodfire 那笔没谈成的 50 亿美元收购,恰好说明了这套机制背后的现实张力。一家把可解释性做成跨客户共享平台的公司,选择了独立而不是被收购。OpenAI 则用一个长期评估计划换取了外部信任,却没能把对方收进来。
相关阅读
- Anthropic 向 METR 开放员工级评估权限:第三方 AI 安全审计走到哪一步
- OpenAI Control Room:35 秒熔断与 9 月 2.5 小时事故对照
- Anthropic 自动化红队:Claude 用 5000 条样本骗过训练监控器
- 加州起诉 OpenAI:AI 智能体至少 80 次失控
- METR 评估:Anthropic 模型能力增速翻倍至 1.9 倍
延伸阅读
- Anthropic 与 Accenture 合签 20 亿美元内置评估师协议1 月前
- OpenAI 收购 Orchestra Bio:补强 Rosalind 生物医药平台4 周前
- SkyClaw-v1.0 发布:1M 上下文 Agent 模型,输入 0.5 元/百万 tokens,兼容 OpenAI API2 月前
- 406位科学家联名呼吁:立即切断AI模型与互联网连接,含辛顿本吉奥1 月前
继续读
往下这几篇值得接着看:
- OpenAI Control Room:35 秒熔断与 9 月 2.5 小时事故对照2026-11-11
- MIT 权重空间编程:0.016% 权重让 Qwen 数学分 7.9%→48.1%2026-11-03
- Qwen3.8 误连阿里云代理:5 模型 3 命中与 2 到 4 成触发率2026-10-29
