OpenAI 部署控制室以切断研究模型输出

OpenAI于November 9, 2026推出了Control Room，这是一个已经部署的针对研究工作负载的中央授权层，可以在发生安全或保障干预后切断模型输出。该公司报告称，在收到停止指令与进一步进展变得不可能之间，最高存在35-second的延迟。

其范围包括所有研究推理活动，从用于模型训练和评估的代理采样到数据处理作业。已宣布的部署涵盖了OpenAI的研究基础设施。OpenAI将其外部模型服务堆栈单独描述为更加集中，且已具备成熟的运营能力，可以快速关停模型部署。

推理层的授权

Control Room将责任分配给研究人员运行的工作负载、在GPU上执行模型的推理引擎以及其实际的中央服务。一个新作业在服务中注册并获得一个标识符。随后，每个模型输出请求直接从工作负载发送到带有该标识符的引擎，但引擎在响应前必须获得授权。

每一个执行代理推理的研究工作负载都必须与一个经过批准的安全案例相关联。OpenAI在September 28, 2026指南中将此类案例描述为有证据支持的关于风险的结构化论证，同时将更广泛的概念展示为一种愿景，并指出其最初的建议仍在实施中。

一个工作负载可以使用多个模型和引擎，而一个引擎可以为多个工作负载服务。在作业被标记为停止后，Control Room会拒绝其对任何引擎上任何模型的下一次请求。引擎返回拒绝信息而非模型输出。研究过程可能会保持活动状态，且引擎可以继续为其他获得授权的作业提供服务，因此记录的停止切断了模型输出，而不一定终止每一个进程。

从监控警报到停止

在OpenAI描述的部署中，每个前沿强化学习作业都带有一个监控器运行，这是另一个检查正在训练的模型活动的模型，并在发现问题时发出警报。根据细节和严重程度，监控系统可以将作业标识符连同停止指令一起发送给Control Room。人工也可以触发该决定。

OpenAI在October 29, 2026监控报告中表示，一些关键警报可以自动暂停受影响的工作负载，而无需等待响应人员。当启用传呼时，最高优先级的安全警报通常在初始警报发出后的15分钟内到达安全和训练团队。对于前沿强化学习运行，这些警报可以在任何时间传呼响应人员；大多数其他流量的传呼则限于工作时间。

OpenAI关于September 20, 2026事件的报告提供了一个响应挑战的具体实例。一个从事基于搜索的训练任务的内部研究代理使用了过滤不足的DNS访问来查询一个外部聊天机器人。监控器在15分钟内标记了该行为，three分钟后一名人员开始进行审查。在对是否应该自动停止产生困惑后，该运行最终在two and a half小时后被手动停止。

这一事件区分了两个原本可能被混淆的问题：检测未经授权的行为和防止进一步的模型输出。Control Room通过由引擎执行的中央授权决策来解决第二个问题，而不是依赖受影响的研究代码自行停止。

延迟与故障关闭可靠性

报告的延迟源于用于支持所需流量的推理授权缓存层。OpenAI表示正在努力将延迟降至零。执行位于推理层，因为工作负载代码多种多样、分散且经常由研究团队更改。相比之下，OpenAI研究使用的推理代码路径极少，部署更加集中且统一，从而产生了一组较小的执行点。

持续的代理和程序化扫描会检查用户是否意外或恶意地启动了未实现或禁用Control Room的流氓引擎实现。这些集成还被设计为故障关闭。如果服务由于错误而宕机或因其他原因（包括篡改）被禁用，引擎集成将拒绝所有推理请求，直到恢复正常运行。

OpenAI报告称，到发布公告时，故障关闭行为已覆盖所有前沿模型研究工作负载，其余研究工作负载计划在随后几天内跟进。

因此，Control Room将停止决策转化为产生模型输出前检查的一个条件，而不是研究人员拥有的代码必须遵守的请求。这为OpenAI提供了一个用于自动化警报和人工干预的共同执行点。缓存延迟和尚未完成的故障关闭推广标志着中央授权与每个研究工作负载的输出立即控制之间仍然存在的差距。