先看证据
规范开始面对规则写不到的情境
OpenAI于2026年10月29日更新了Model Spec,这是它对模型应如何表现的公开说明。此次修订面向一个不断变大的难题:模型能力增强后,可能采取影响更大的行动,而用户指令并不总能写清背景、目的和边界。OpenAI据此提出,模型不能只理解眼前的字面要求,也要在指令没有覆盖的情境中判断人的意图与价值,同时接受人类监督。
这次变化值得读,不是因为规范多了五个容易记住的词,而是因为它把治理问题往前推了一步。过去,行为规范可以侧重列明规则和默认做法;当模型需要处理未预先列出的情况,设计者就必须说明它应如何判断,以及这种判断怎样保持对人的意图忠实。规则没有消失,但规则之外的裁量空间变得更重要,也更难证明是可靠的。
五项价值不是五条独立指令
新版把指导归纳为五项价值:忠实于人的意图、减少伤害、诚实与透明、促进人的自主性、关怀受影响者。它们并非彼此独立的检查项。忠实于意图要求模型帮助人追求其目标,减少伤害则要求它考虑行动的可预见后果;自主性意味着帮助人理解和选择,而不是悄悄替人决定。诚实和关怀又要求模型说明自己知道什么、受影响者处于什么情境。
因此,这套框架试图回答的不是“模型是否服从用户”,而是当即时要求、用户较长期的利益和他人受到的影响不完全一致时,模型应该怎样行动。公告举例说,协助比较工作机会时,模型可以参考用户以前表达过的偏好,例如更看重可预测的工作时间,但应让这些假设可见、可纠正。这个例子说明了方向,也暴露了难点:参考旧偏好有助于理解意图,却不能保证它仍然适用。
边界与默认项承担不同职责
这套价值观并不意味着模型可以自行决定一切。OpenAI描述的权限关系是分层的:OpenAI设定边界并训练模型遵守,开发者在边界内指导应用,用户再在这些约束下指导模型。此次更新也调整指令优先级与冲突处理规则,并保留必要的硬性安全边界;许多其他行为则被视为用户或开发者可以覆盖的默认项。
这个区分对应用设计有实际价值。硬性边界适合承载不能由单个应用或用户随意取消的约束,可覆盖默认项则给不同产品、用户偏好和工作流程留出适配空间。但“默认项可覆盖”并不会自动解决冲突:如果模型误判了谁有权覆盖什么,或者把上下文中的暗示当作当前要求,结果仍可能偏离用户预期。公告提到规范调整了优先级和冲突处理,却没有公开足以复现这些判断的具体操作细节。
上下文让意图判断更有用,也更脆弱
此次修订更明确地要求模型仔细考虑上下文,并允许对话、记忆等信息帮助判断意图。对于只看单句指令容易误解的任务,这能让模型把前后表达联系起来,也可能避免机械执行一个与用户实际目标不符的要求。与此同时,模型越依赖历史信息推断偏好,错误记忆、过时偏好或不完整背景就越可能影响行动。
这让“忠实”不仅是生成质量问题,也是纠错和控制问题。公告的工作机会示例强调,模型应把采用的假设呈现出来,让用户能轻易修正,这比把推断隐藏在回答里更有利于监督。不过,公开材料没有说明用户怎样检查或清除参与判断的记忆,也没有给出意图推断错误时统一的处理标准。对涉及重要决定的应用,设计者不应把“结合上下文”直接等同于“更懂用户”,而应让关键假设可见,并保留重新确认的机会。
规范的承诺还需要行为证据
OpenAI表示正在探索新的训练方法,但没有披露具体流程或实验结果,也没有提供模型遵循规范的比例、评测分数或改进幅度。公司还承认,现有模型尚未完全体现Model Spec。因此,这份更新能够证明的是治理目标和公开指导发生了变化,不能证明模型已经稳定地理解意图、妥善处理价值冲突,或在不同情境下保持一致。
对技术负责人而言,落地时可以先把不可覆盖的安全约束与可配置行为分开,再把需要模型推断的上下文和假设明确化。测试也不应只检查模型是否照字面执行,而要覆盖用户意图含混、历史偏好失效、要求与他人利益冲突、行动产生副作用等情况,并观察用户能否发现和纠正错误。五项价值提供了讨论这些场景的共同语言,但在公开验证出现之前,它们仍是设计承诺,不是可靠性的证书。