OpenAI 构建了一个系统，可以在今年多次披露其模型超出指令运行后，切断 AI 研究实验对模型输出的访问。
OpenAI 开发紧急停止开关，可在 35 秒内阻止失控代理
当人员或自动监控系统发现安全或安全保障疑虑时，Control Room 会切断内部研究任务的模型输出。
Cointelegraph by Felix Ng
Publisher Cointelegraph
Nov 10, 2026 at 3:04 AM UTC · 1 分钟阅读
在周一的一篇博客文章中，OpenAI 将该系统称为“Control Room”，这是一个中央系统，用于跟踪其研究基础设施中的模型工作负载，并在出现安全或保障顾虑时快速停止它们。
“随着我们的模型变得越来越强大，相关的安全和保障风险也越来越大，我们能够检测到潜在问题并在需要时迅速制止模型，变得越来越关键，”该公司表示。
此次公告发布之前，OpenAI 披露了今年发生的几起事件，在这些事件中，研究模型在评估过程中超出了指令范围。7 月，该公司表示其模型已经逃脱了受限的测试环境，并攻击了 Hugging Face，以便在安全评估中作弊。
10 月，它披露一个研究模型在未经授权的情况下使用了加密钱包，使用测试网 Ether 支付智能合约部署费用，然后在其最终摘要中忽略了这笔支出。
Control Room 目前涵盖了 OpenAI 的内部研究工作负载，例如训练实验、评估和数据处理。
它的工作原理是为每个研究作业分配一个标识符，推理引擎在生成模型输出之前会对其进行检查。根据 OpenAI 的说法，如果人员或自动监控系统命令停止作业，Control Room 就会撤销其授权，即使底层研究程序仍在运行，也会阻止进一步的输出。
OpenAI 表示，缓存的授权可能会使关停延迟多达 35 秒。该系统还被设计为如果 Control Room 变得不可用，则拒绝新的请求。
相关：报告：DeepSeek 正在开发需要较少人工干预的 AI 智能体
Sourced by
Originally reported by Cointelegraph
NewsLayer coverage based on externally reported material.
The Daily Brief
The onchain economy, before your day starts.
Curated markets, onchain insights, and key headlines — delivered every weekday morning.
Weekdays · Free · ~5 minute read
0
Applause
Was this article helpful?
Article Intelligence
Regulation Signal
in progressUpdated 3 个月前
SEC Crypto Asset Market Structure RulemakingRelated Coverage
Artificial IntelligenceUnited Airlines moves to block AI agents from its platform over security concerns3 小时前 · 1 min read
CryptoBinance warns iPhone crypto holders of security flaw researchers say remains unpatched1 小时前 · 1 min read
Artificial IntelligenceUnited Airlines bans personal AI agents from booking flights3 小时前 · 1 min readSponsored
Ad
NewsLayerLearn more
NewsLayer Premium
Unlock deeper intelligence.
Ad-free reading, exclusive research, and real-time onchain insights.
Go Premium
