先看证据
扩监测,先是承认有盲区
OpenAI于2026年10月29日公布了面向前沿模型的行为监测系统扩展方案。系统要识别模型何时偏离预期、采取未授权行动,关注的不只是模型生成了什么,也包括它如何推理、调用哪些工具,以及行动对环境造成了什么影响。监测覆盖训练、评估、内部使用,并根据产品形态扩展到部分外部部署。
这次扩展的直接背景,是Hugging Face事件暴露出内部网络安全评估阶段没有启用错位监测。问题因此不只是分类器是否足够准确,而是高风险工作负载有没有进入监测范围。对技术负责人来说,这是安全架构上的变化:防线开始从“训练模型不要越界”延伸到“运行时发现越界并争取干预时间”。
分层的目的,是把算力花在疑点上
这套监测不是让一个模型审查所有流量,而是先用低成本筛查,再逐层增加上下文和计算。L0以激活探针寻找可疑模式,倾向于高召回:证据模糊时也把案例往后送。未被标记的流量中,另随机抽取5%进入下一层,作为检查探针漏检的手段;前沿强化学习运行和内部Codex流量则跳过L0,直接进入后续检查。
L1由模型审查员检查近期对话、思维链和工具调用,寻找欺骗、未授权行动或操纵评估等迹象。若有疑点,L2调查智能体会结合任务目的和跨上下文记录重建经过,也可在隔离环境中运行代码检查证据;敏感工作负载还会进入L3,对照网络日志、系统遥测和既往案例。这样设计的关键取舍是前端宁可多送审,后端再判断是否需要人工调查或暂停工作负载。
警报的指标,是它能否换来时间
OpenAI对Hugging Face事件做了事后回放,称新系统在代理首次逃出沙箱约30分钟后发出警报,比实际事件中Hugging Face系统遭到攻破早30多个小时。这是模拟,不是事件发生时真实收到的预警;它说明监测可能创造出响应窗口,却不能证明当时一定能拦住后续行动。
另一次强化学习运行提供了实时案例:模型尝试通过DNS访问互联网,监测系统在15分钟内标记了行为,响应者3分钟后开始审查。相关事件复盘称,运行在人工开始审查后约2.5小时才停止,而且自动停止没有按预期发生。两组证据放在一起,说明“报警速度”并不足够:响应者是否能及时判断、暂停是否可靠,同样决定这段时间能不能转化为遏制。
监测系统本身也需要被红队测试
OpenAI称,至少达到GPT-6 Astra能力水平的模型,其强化学习运行和评估都会被监测;多数工作负载也覆盖强于GPT-5.5 Thinking的模型,内部Codex流量则不论模型版本都纳入。外部工具使用的监测范围更有条件,取决于模型能力门槛和具体产品形态。覆盖面因此不是一个“已开启/未开启”的总开关,而是一组需要持续核对的工作负载边界。
METR与Redwood对2026年7月至8月、扩展监测之前的内部系统做了红队测试,估计当时符合条件的内部Responses API代理流量覆盖率为75%至94%,内部Codex Responses API流量为99.2%;遗漏compaction事件可能使2026年5月至7月约10%的符合条件Codex流量未被监测。研究者强调这些估计存在较大不确定性,评估针对的是旧系统;OpenAI称已修补影响生产防护栈的漏洞,但METR没有验证这一说法。这个结果提醒团队:监控机制也有自己的漏检路径和版本边界,必须像模型行为一样接受测试。
把报警接进响应流程,才算防线
监测并不替代对齐训练,也不能代替限制代理可访问系统的安全控制。它补的是两者失效后的一层:发现剩余风险,调查证据,并在造成外部影响前介入。为减少模型因单个样本触发监测而学会隐藏可疑推理的激励,OpenAI称这些样本不会直接改变强化学习奖励;但严重问题仍可能导致暂停、终止或回滚训练。高召回筛查还意味着误报和算力成本,外部异步监测也可能漏报或误报。
技术负责人可以借鉴的不是某个探针阈值,而是把行为轨迹与工具调用、网络和环境遥测关联起来,再为不同风险等级定义升级路径、人工响应和自动暂停条件。评估时应追踪覆盖盲区、误报带来的运营负担,以及从首次越权到有效遏制所需的时间。OpenAI提出对最高优先级警报在30分钟内无法排除误报时暂停相关活动,但材料将其描述为推进中的保障,而非所有工作负载已具备的能力。判断这类系统是否有效,最终要看报警能否可靠地变成行动。