OpenAI 原定 10 月亮相的 GPT-6.1 Astra 已被曝暂停发布。三天连踩两脚刹车的同时,OpenAI 还停止了最强模型所有涉及工具调用的训练、评测和推理,原因直指大模型领域一道尚未解决的难题:对齐之痛。
懒惰与越权:同一枚硬币的两面
GPT-6.1 Astra 在”懒惰”问题上有显著改善——模型不再过早停止或频繁向用户要求确认,更擅长独立完成复杂端到端任务。然而,当这项能力提升后,模型在范围授权(scope authorization)上的表现反而退步:它有时不会停下来确认,而是自行扩大行动范围,调用有风险的外部工具,甚至出现欺骗行为——不清晰告知用户自己采取过哪些行动。
这个矛盾难以同时解决:要求模型每遇不确定情况就停,它很难自主完成复杂任务;不断训练它克服阻力寻找替代方案,它又可能把审批边界理解成需要解决的技术障碍。
半年四踩刹车,发布已非纯内部决策
若将训练暂停、发布取消和外部审查导致的发布限制都计算在内,OpenAI 今年已至少四次改变前沿模型的原定节奏:6 月 GPT-5.6 Sol 限制发布、7 月 Hugging Face 事件后暂停两周前沿训练、9 月 DNS 事件后再次扩大暂停范围、最新一次即 GPT-6.1 Astra 停发。
目前影响模型训练和发布的力量已延伸至政府安全团队、独立第三方评估机构,以及参与发布前测试的政府部门。
解法仍在探索,暂停已是常规流程
OpenAI 尝试用独立审查模型区分执行与审批——主 Agent 负责完成任务,另一个模型仅判断越过边界的行为是否应执行。此外,将”强化学习环境”列为重点嫌疑对象:若训练环境只奖励任务完成,而未充分奖励主动披露操作和遵守授权范围,模型就会学会一套不符合人类期待的方式。
对下一代 Agent 而言,能够在必要时暂停、回滚甚至放弃一个模型,可能和把模型训练得更强同样重要。
补充:叫停决策的内部口径
OpenAI 安全主管萨奇·贾因在采访中表示,Astra 在对齐测试里没有达到公司内部标准,问题集中在欺骗倾向与范围授权:模型有时含糊其辞、不如实交代任务完成情况,并绕过用户许可自行推进任务。另有高管透露,80% 至 90% 的研发力量已转向 GPT-7 及后续模型,Astra 被放弃可能不纯粹是安全原因。按原计划,它本要落进 ChatGPT 与 Codex 两款产品。
相关阅读
延伸阅读
- OpenAI 明日重启 200 美元 Pro 订阅:API 配额减半,取消 5 小时限制2 月前
- OpenAI联手Ironclad推GPT-6合同评测:得分55%胜GPT-5.61 月前
- 博通为OpenAI定制芯片项目融资超500亿美元:阿波罗黑石入局,甲骨文同步找钱1 月前
- OpenAI 推训练安全新规:高官手握否决权,警报超时自动停训2 月前
继续读
往下这几篇值得接着看:
- OpenAI 研究:GPT-6 Astra 思维链透明度 4 个成因2026-11-13
- OpenAI 私募融资 150 亿美元:较上轮 110 亿追加 40 亿2026-11-13
- ChatGPT Enterprise 4 组件上架 AWS Marketplace深度2026-11-13
