OpenAI 更新 Model Spec:五项核心价值重构行为规范

10 月 29 日,OpenAI 更新了公开的 Model Spec,把整套模型行为规范重新组织为五项核心价值:忠于人类意图、减少伤害、诚实与透明、促进人类自主性、关怀。与过去大量细碎条款相比,这次更新的方向是从规则清单转向价值框架。

五项价值与指令层级

忠于人类意图被放在第一位,含义是模型要理解用户真正想达成什么,而不只是字面执行指令,同时考虑用户的长期利益以及行为对他人造成的影响。新增的指令层级章节明确了三方关系:OpenAI 设定边界并训练模型遵守,开发者在边界内配置应用,用户在上述约束下指导模型工作,冲突时按这个顺序处理。

其余四项价值分别对应不可突破的安全边界、如实说明模型知道什么与不确定什么、增强用户理解与选择行动的能力,以及认真考虑受影响者所处的具体情境。新版还补充了谨慎对待上下文、支持人类自主性、遵循相关社会规范、控制并说明副作用这几组默认规则。

风格规则大面积退役

OpenAI 明确表示这次退役了规范中大部分细化的风格指导。理由是风格应随用户需求变化,语言、文化、群体与个人偏好都不相同,用户反馈与当前上下文才该作为判断依据,模型也不该只靠猜测用户想听什么就自行推断偏好。保留的默认要求主要是以客观方式处理问题,以及在用户明确要求时遵循指定视角。

另外一处调整是术语,规范不再主要用 the assistant 来指代模型,而统一称为 GPT。新版同时承认,规范描述的是希望模型做到的事,当前模型尚未完全体现这些行为,差距要靠后续训练与研究补齐,具体训练方法的结果会在未来更新中公布。

相关阅读