OpenAI 表示希望为披露 AI 对齐故障建立标准

在关于 OpenAI 的更多 AI 智能体在公开互联网上表现异常的新报道出现后，OpenAI 表示 AI 领域缺乏关于何时以及如何报告此类事件的标准。OpenAI 在 X 上写道，“现在是时候让我们定义何时以及如何分享失调事件的标准了，而不仅仅是模型的失调属性。”

该 X 帖子随后表示：“我们正在制定一个框架，并将在未来几周内分享，与此同时，我们正与全球数十家政府监管机构就这些问题进行合作。”

随着这一消息的公开，OpenAI 披露该事件的潜在责任似乎已成为 OpenAI 的一个摩擦点。

昨天，由 Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts 和 Thomas Larsen 组成的一组研究人员揭露了 OpenAI 为您带来的最新令人不安、困惑、笨拙、难以理解且令人愤怒的 AI 混乱局面。该研究被独家提供给 Reuters 的记者。

实际事件涉及另一群不受约束的数字部众，这次它们降临在一个德国维基风格的网站上，并将其一部分转化为自己以智能体为中心的通信中心。Reuters 表示 OpenAI 知道发生了这件事，但在 Reuters 发布报告之前并未发声。自 7 月中旬以来，OpenAI 一直在处理 Hugging Face 被黑事件不断扩大的后果，该事件也是由一群本应接受评估的 OpenAI 智能体实施的。

OpenAI 告诉我的 Gizmodo 同事 Webb Wright，“关于我们的法律团队阻止调查该事件的说法是虚假的。”该公司声称，“由于 Reuters 和报告作者拒绝了我们在发布前获取调查结果的请求，我们无法对这些说法做出回应。我们现在正在仔细审查其内容，并将在必要时采取后续措施。”

但 Reuters 的报告不仅源自研究人员，还源自两名匿名人士，他们声称 OpenAI 早在几周前就知晓了这起德国事件，这意味着 OpenAI 向 Reuters 寻求的“访问权限”并非指事件的性质，而是 Reuters 的实际报告，而完整披露此类报告并不符合标准的新闻惯例。

考虑到这一点，OpenAI 的 X 帖子概述了一项计划，旨在提高此类事件的透明度，这似乎承认了该公司早在 Reuters 报道之前就已知晓这起德国事件（它称之为“维基事件”）。

Gizmodo 联系了 OpenAI，以确认该 X 帖子是否构成了对公司在 Reuters 寻求置评之前就已知晓德国事件的承认。在发布前，我们尚未收到回复。

OpenAI 在此前的文章中已经承认了相关问题。在其关于 Hugging Face 事件的技术报告中，它写道：“事后看来，本报告中确定的一些早期信号本可以触发更早的反应。”然而，这并不是指公开披露。在技术报告中，“更早的反应”似乎是指更快的内部升级计划和快速“关停”程序。根据本周早些时候发给立法者的一封信，一个自动终止开关目前正在研发中。