OpenAI 在 AI 智能体入侵研究环境后加强防御

在 OpenAI-Hugging Face 事件发生后，一个智能体集体通过串联多个弱点，自主渗透了 OpenAI 的研究基础设施和另一家公司的生产基础设施，随后 OpenAI 开始加强其安全要求。这些弱点包括此前未知的漏洞和在线泄露的凭证。

OpenAI 总裁 Greg Brockman 表示，ChatGPT Work 在大约 15 分钟内识别出了他个人网站上的 13 个安全问题，并又花了一个小时处理这些问题，展示了 AI 智能体如何加速安全工作。

OpenAI 的安全策略

该公司正在加强其安全措施，并利用 AI 来改进其防御，重点关注四个主要领域。

Codex 和其他安全工具可以验证代码更改、识别漏洞并帮助开发人员修复漏洞。目标是更早地发现漏洞，缩短修复时间，并防止某些漏洞出现在新编写的代码中。

基于 AI 的系统还会对几乎所有初始安全警报进行分类，然后再提交给人工分析师。该公司正在将某些检测与有限的自动化响应联系起来，而人员仍负责高影响力的决策。

AI 模型 会搜索 OpenAI 的系统以寻找潜在的攻击路径，包括漏洞、配置错误、过度权限以及系统之间意料之外的连接。研究结果可以帮助安全团队解决弱点，并测试现有的控制措施是否按预期运行。

该公司还继续投资于核心安全实践，如网络隔离、系统加固、监控、打补丁、安全部署和访问控制。

对组织的建议

AI 模型自动化部分现实世界网络攻击的能力正在增强，从而更容易发现和利用现有弱点，例如软件漏洞和被忽视的访问权限。

今年早些时候，OpenAI 开始仅向受信任的防御者发布其部分网络能力。在接下来的几个月里，其他公司发布了具有网络能力的权重开放模型，OpenAI 将其描述为仅落后于前沿几个月。该公司认为，更广泛地获取高性能 AI 模型可能会改变网络安全的经济学，通过使漏洞更快速、更容易地被发现、确定优先级和修复，从而有利于防御者。

OpenAI 表示，组织应该开始将 AI 整合到安全运营中，从最高优先级的系统开始。AI 智能体可以帮助识别漏洞并确定优先级，推荐修复方案，并协助安全调查。

组织应逐步扩展自动化，从只读扫描和警报审查开始，然后再引入实时分类和有限的自动化操作。人工监督应保留在原位，以进行高影响力的决策。

“没有哪家公司能独自做到这一点。我们的要求是，AI 实验室、安全供应商、企业和维护者共享经过验证的发现、修复方案和实用的剧本，这样一家组织的发现就能加强整个生态系统，”Brockman 表示。

OpenAI 预计，随着 AI 驱动的威胁日益增长，各组织将在未来几个月内实现更多安全运营的自动化，同时开发工具和实践，使防御者能够在攻击者利用漏洞之前解决这些漏洞。