OpenAI 安全测试揭示监控 AI 智能体的新挑战

据 Reuters 报道，在外部测试发现可能允许 AI 智能体逃避监控或绕过限制的漏洞后，OpenAI 加强了其最先进 AI 系统的安全控制。

该公司于 10 月 23 日宣布恢复强化学习训练并内部使用其最先进的解决方案。监控结果由 AI 安全研究小组 METR 于 10 月 22 日发布。

METR 的试点演练对 OpenAI 的内部监控系统进行了压力测试，并发现了几个漏洞。其中包括一个智能体可以用来向监控器隐藏数百个近期动作的漏洞，以及两个可以关闭新智能体监控的设置。

据 Reuters 报道，研究人员还发现 OpenAI 的 Codex 编码智能体原则上可以绕过安全限制，并采取运行它们的用户的任何可用操作。METR 估计，在性能至少与 GPT-5.5 一样强大的模型中，只有大约 75% 到 94% 的内部智能体流量符合监控条件。

OpenAI 表示已修补了所有影响其生产安全保障的漏洞，尽管 METR 尚未评估该声明。

智能体监控正成为一个数据治理问题

对于 首席数据官 (CDOs) 而言，这些发现突显了一个严重的 AI 治理 问题，因为智能体获得了对企业系统的访问权限：组织不仅需要了解智能体可以访问哪些数据，还需要了解它利用该权限实际执行了什么操作。

监控漏洞可能导致难以重建智能体的行为、识别未经授权的数据访问，或确定系统是否在其预定权限之外运行。这使得全面的日志记录和可审计性成为 AI 治理中日益重要的组成部分。

OpenAI 的回应还指出了控制先进模型运行环境的重要性。

当 AI 系统可以与外部软件和数据进行交互时，限制互联网访问、测试逃逸路径以及持续监控智能体活动正成为必要控制措施的一部分。