OpenAI 启用 Daybreak Blue 数据训练:11 月 29 日起

10 月 31 日,OpenAI 向 Trusted Access 计划的成员发信确认,从 11 月 29 日起,公司会把 Daybreak Blue 这类安全防护产品的会话数据用于模型训练。此前这类数据被明确排除在训练之外,即便用户在设置里打开了「为所有人改进模型」的开关也不使用。改动引发反弹后,OpenAI 又补发一封邮件,承诺为这部分数据提供单独的退出选项。

从排除到默认纳入

Daybreak Blue 是 OpenAI 面向防守方的网络安全会话产品,其产生的对话记录按此前口径属于安全用途数据,不进入训练管线。11 月 29 日之后,这批数据默认进入训练集合,用户只能通过新增的退出开关来阻止。安全审查中被标记的交互内容仍可继续用于安全研究,这条边界没有变。对于企业级用户来说,这意味着安全团队与模型之间的对话记录,第一次有了被二次利用的可能。

研究界的担心指向一个旧案例

邮件发出后,多位研究者把这看作数学家 Tristan Buckmaster 与 Levent Alpöge 那次事件的翻版。两人曾把纳维-斯托克斯方程的草稿上传到 OpenAI 的 Codex,OpenAI 随后给出了自己的证明,但否认使用过他们的输入材料用于训练。这次数据口径的调整,让研究者担心用户投稿与模型产物之间的界线被进一步模糊,知情同意的边界也因此需要重新界定。相关行为规范的变化可参考站内此前的 OpenAI 重构 Model Spec:5 项核心价值与 4 层失配监控。

训练数据边界上的每一次松动,最终都会体现在模型能答出什么的边界上。