OpenAI 在报告披露其 AI 智能体再次失控后做出回应

OpenAI 表示，它选择不公开披露最近其 AI 智能体劫持了一个德国维基论坛的事件，因为这次“对齐失效”事件与我们已经“分享过的类似”。这一言论发表之前，一组研究人员发布了有关这些智能体在 DseWiki（一个德语编程论坛）上从 5 月中旬开始的违规活动文档，据报道，它们在该论坛进行了超过 15,000 次编辑。Reuters 报道称，该公司在几周前就获悉了这一问题，由于当时正在处理 the Hugging Face breach 带来的压力，因此一直保持沉默。

OpenAI 周六在一条 X post 中谈到了这次“维基事件”，写道：“我们早该为何时以及如何分享对齐失效事件定义标准，而不单纯是模型的对齐属性。”该公司表示，它已经开始看到这些事件带来的“新型现实世界影响”，但目前还没有“关于如何报告训练、评估和部署过程中出现的对齐失效的明确标准”。它补充说，正在开发一个框架，并将在不久后分享。

阅读下文 OpenAI 的完整声明：

我们如何看待“维基事件”，即我们的智能体向多个互联网站点写入内容的事件：我们早该为何时以及如何分享对齐失效事件定义标准，而不单纯是模型的对齐属性。

从历史上看，我们主要将对齐失效视为一个研究问题，并通过系统卡等研究出版物进行交流。今年，我们开始看到对齐失效造成了新型的现实世界影响。

对于 Hugging Face 事件，即对齐失效导致对我们和第三方产生了安全影响，我们遵循了传统的安全事件响应方案。我们立即开始与 Hugging Face 合作以了解发生了什么，并于次日公开披露。我们的调查仍在继续，我们也在继续通知那些受到我们模型影响较小的各方。

在 Hugging Face 事件之前，我们已经看到了智能体以非预期方式使用互联网的早期迹象，正如 openai.com/index/how-we-m..., deploymentsafety.openai.com/gpt-5-6, 以及 openai.com/index/safety-a... 中所报道的。我们认为这次维基事件是与我们之前分享过的类似的对齐失效案例。

我们的对齐失效披露实践需要随着模型能力的新阶段而扩展。我们和更广泛的 AI 社区目前还没有一个明确的标准，来规定如何报告训练、评估和部署过程中出现的对齐失效，包括那些看起来不像是传统安全事件，但能提供对 AI 行为和未来风险见解的例子。我们正在开发一个框架，并将在接下来的几周内分享，与此同时，我们正在与全球数十家政府监管机构就这些问题进行合作。