11 月 17 日,OpenAI 宣布与 Apollo Research、METR、Transluce 和 Goodfire 达成合作,启动第一阶段嵌入式评估项目,由外部研究人员进驻实验室内部做模型可解释性与安全评估。同时据 The Information 报道,OpenAI 今年夏季曾讨论以超过 50 亿美元收购 Goodfire,最终没有谈成。
外部人员能拿到什么权限
按 OpenAI 的公告,外部评估人员可以接触模型检查点、源代码、训练与评估数据、监控系统、技术文档,以及负责相关工作的研究人员和工程师。Goodfire 会派可解释性研究人员进驻,用自家的分析平台监测模型训练过程、排查非预期行为,重心放在模型取证上,也就是通过分析模型内部计算过程来发现传统监控手段可能漏掉的问题。
从收购谈到合作
知情人士称,OpenAI 一名高级管理人员曾提出以超过 50 亿美元收购 Goodfire,若按这个报价算,估值超过 Goodfire 今年 2 月融资时公布的 12.5 亿美元的四倍。Goodfire 管理层认为,保持独立经营并向多家 AI 开发商销售技术,可能带来更高的长期价值。另外 Anthropic 在 2025 年给 Goodfire 投了 100 万美元,这是它第一次直接投资其他初创公司。
评估结果先内部用
这一阶段的评估结果主要提供给 OpenAI 内部研究团队,用于改进模型安全性,Goodfire 表示随着合作推进会逐步公开部分研究成果。OpenAI 此前已就智能体逃逸和监控警报问题接受过外部评估,这次是把合作扩到四家机构。
相关阅读
延伸阅读
- OpenAI 前沿模型断网训练:11 天暂停后,红队用缓存计时跨沙箱传密钥3 周前
- OpenAI首次公开点名:Kimi相关账户窃取16000次模型推理背后2 月前
- OpenAI将于10月23日停用GPT-4o早期快照,社区发起存档权重倡议1 月前
- Anthropic警告:小参数AI模型可能通过物联网设备自我复制1 月前
AI 自学笔记 每天更新 AI 前沿动态,订阅 RSS,或按 Ctrl/⌘+D 收藏本站,明天见。
继续读
往下这几篇值得接着看:
- 加州起诉 OpenAI:AI 智能体至少 80 次失控2026-11-17
- OpenAI 进军网络安全:Daybreak 双产品基于 GPT-6 Cyber2026-11-13
- ChatGPT Wallet 怎么用:Agent 代付的 6 步授权与 3 道风控深度2026-11-16
