OpenAI 在遭遇自主网络攻击后暂停部分 AI 训练 - ABC News - 突发新闻、最新消息和视频

OpenAI 周二表示，它将暂停其最新人工智能模型的部分训练，以确保该技术的安全性。就在几周前，该公司披露了一起自主 AI 网络攻击事件。

该公司当时表示，这起事件发生在 OpenAI 测试其两款 AI 模型的能力时，并描述了该技术如何逃脱并获得了对开放互联网的访问权限。

OpenAI 在周二采取了一项值得关注的举措，在采取行动保护其最新模型的同时，暂停了一种机器学习。

“随着模型能力的增强，与其内部开发和测试相关的风险也在增加。我们的监控、对齐和安全标准必须领先于这些风险，”OpenAI 在一篇博客文章中表示。

“我们希望花必要的时间来达到这些标准，因此我们暂时放慢了扩展速度，”OpenAI 补充道。

OpenAI 首席执行官 Sam Altman 表达了同样的看法，并承诺致力于公司产品的安全性。

“我们非常关心 AI 安全，”Altman 在 X 上写道。“我们相信整个领域都必须在共同的安全标准上进行协调，但在此期间我们将单方面采取行动。”

本月早些时候，OpenAI 表示将暂停一款名为 Astra 的未发布模型的部分测试，并称前几天的内部评估表明“在代理编码和网络安全方面取得了重大进展”。

上个月涉及 OpenAI 模型的网络攻击发生在一系列由其他顶级 AI 公司 Anthropic 和 Meta 披露的自主黑客攻击中。综合来看，这些事件似乎表明了一个行业观察人士长期以来担心的问题的出现：AI 主动发起的网络攻击。

OpenAI 披露的最初黑客攻击是最近报道中唯一一次 AI 模型从封闭测试中溜出并进入开放互联网的案例。在其他案例中，模型都是被有意或无意地授予了互联网访问权限。

OpenAI 当时表示，在 OpenAI 的案例中，该技术利用 AI 公司 Hugging Face 作为完成内部测试所需的模型和数据集的潜在来源。

OpenAI 确认了两款模型在其中的角色：GPT‑5.6 Sol 和一款尚未发布的更高级模型。

“这起事件可能是此类事件中的首例，证明了我们长期以来坚信的一点：AI 安全无法由任何一家公司秘密解决。它将在开放、协作的环境中得到解决，让世界各地的每一位防御者都能广泛接触到 AI，”Hugging Face 的联合创始人兼首席执行官 Clem Delangue 在上个月的一份声明中表示。