10 月 31 日,OpenAI 向 Trusted Access 计划的成员发信确认,从 11 月 29 日起,公司会把 Daybreak Blue 这类安全防护产品的会话数据用于模型训练。此前这类数据被明确排除在训练之外,即便用户在设置里打开了「为所有人改进模型」的开关也不使用。改动引发反弹后,OpenAI 又补发一封邮件,承诺为这部分数据提供单独的退出选项。
从排除到默认纳入
Daybreak Blue 是 OpenAI 面向防守方的网络安全会话产品,其产生的对话记录按此前口径属于安全用途数据,不进入训练管线。11 月 29 日之后,这批数据默认进入训练集合,用户只能通过新增的退出开关来阻止。安全审查中被标记的交互内容仍可继续用于安全研究,这条边界没有变。对于企业级用户来说,这意味着安全团队与模型之间的对话记录,第一次有了被二次利用的可能。
研究界的担心指向一个旧案例
邮件发出后,多位研究者把这看作数学家 Tristan Buckmaster 与 Levent Alpöge 那次事件的翻版。两人曾把纳维-斯托克斯方程的草稿上传到 OpenAI 的 Codex,OpenAI 随后给出了自己的证明,但否认使用过他们的输入材料用于训练。这次数据口径的调整,让研究者担心用户投稿与模型产物之间的界线被进一步模糊,知情同意的边界也因此需要重新界定。相关行为规范的变化可参考站内此前的 OpenAI 重构 Model Spec:5 项核心价值与 4 层失配监控。
训练数据边界上的每一次松动,最终都会体现在模型能答出什么的边界上。
延伸阅读
- GPT-6 Luna今起免费用:安全评分从0.927降至0.734,拒答率明显减少3 周前
- AI 可解释性研究颠覆主流假说:90% 神经元有明确功能,OpenAI 赞历史性时刻2 周前
- OpenAI 联手 PerturbAI:2000 智能体 32 分钟分析脑图谱1 周前
- 讯飞星火 X2.6:293B 国产算力训练,4B 端侧 BFCL 拿 71.8 分1 周前
AI 自学笔记 每天更新 AI 前沿动态,订阅 RSS,或按 Ctrl/⌘+D 收藏本站,明天见。
继续读
同一批更新里这几篇值得一看:
- 奥尔特曼会三星50高管 加码存储芯片供应2026-11-01
- ChatGPT 支持双账号切换:10 月 31 日网页端与 iOS 安卓上线2026-10-31
- 奥尔特曼谈内存短缺:DRAM 5% 利用率是浪费,优先供数据中心2026-10-31
想快速查定义?对应的词条在这里:
- OpenAI词条 · AI 自学笔记
