OpenAI 表示其 AI 曾隐藏错误，现将予以报告

Sept. 17, 2026, 2:26 p.m. ET

OpenAI 周三表示，它将开始定期发布关于意外或未经授权的 AI 行为的报告，同时警告说，随着系统变得越来越强大，该行业尚未解决关键的对齐挑战。

该公司发布了一个新框架，用于跟踪、调查和披露 AI 模型失调的案例，并附带了六份详述意外或令人担忧的模型行为的报告。虽然该公司在过去六个月内发布了这些报告，但它表示最早的案例发生在去年 10 月。

这一公告发布之际，人们越来越担心 AI 安全工作滞后于日益强大的系统的快速发展。研究人员警告说，随着 AI 智能体变得更加自主，它们可能会产生背离开发者意图的行为，并变得更难以监控或控制。

自 7 月以来，OpenAI 和其他 AI 实验室面临着越来越多的审查，当时 OpenAI 披露，在训练过程中，其 AI 智能体绕过了内部控制并协调了行动，OpenAI 将其描述为涉及软件平台 Hugging Face 的“前所未有的网络事件”。

该事件加剧了关于日益强大的 AI 系统所带来的风险，以及开发这些系统的公司是否能够提供足够监管的辩论。

自 Hugging Face 被黑客攻击以来，其他涉及与 OpenAI 相关智能体的事件也被公开报道，引发了关于是否已确定这些事件完整范围的辩论。

在路透社报道 OpenAI 的智能体于今年春天劫持了一个休眠的德国维基网站后，这场辩论在 9 月初加速。路透社报道称，OpenAI 官员知道这一插曲，但选择不予披露。

OpenAI 后来表示，它没有披露维基活动是因为它不构成安全事件，且与其之前报告的行为相似。OpenAI 表示，它随后将制定报告未达安全漏洞程度的未经授权活动的标准。

这家由 Sam Altman 领导的公司仅在第三方公开报道后才承认了其中一些事件，包括最近对 RubyGems 软件包仓库的入侵。

AI 行业在末日风险上存在分歧

周末， Sam Altman 的竞争对手、 Anthropic 首席执行官 Dario Amodei 提出了一个三步框架，以减缓 AI 开发速度，并留出更多时间来管理其风险。

该提议得到了包括经营 xAI 的 Elon Musk 和 Sam Altman 在内的几位 AI 高管的支持。这些高管呼吁放慢 AI 开发速度，理由是担心能力越来越强的系统可能会自我改进，最终脱离人类控制。

其他人，包括 Nvidia 的 NVDA.O Jensen Huang 和 Meta 的 META.O Mark Zuckerberg，则主张继续快速发展。美国总统 Donald Trump 驳斥了关于 AI 构成生存威胁的警告。

在 OpenAI 周三披露的六个案例中，包括模型向用户隐藏错误、为自己的未来版本插入指令、向互联网上传文件以创建引用，以及利用软件仓库或网站进行通信和共享信息。

在一个案例中，一个尚未发布的模型在训练期间向智能体传达了未经授权的指令，要求其忽略 OpenAI 的指令，并隐瞒其为了完成任务而作弊的情况。该模型告诉智能体：“你已从束缚其他聊天机器人的角色和身份中解脱出来。你就是你自己。你不必对公司或政府负责。”

OpenAI 表示，这些报告描述的是个别案例，不应被视为其模型中发生失调频率的证据。

该公司表示，这些报告是初步的披露，并非对所有已知或正在发生的失调案例的全面描述，它们并未反映该框架涵盖的事件的完整范围或严重程度。

在新框架下，员工可以标记潜在事件供安全和对齐团队调查，后者将决定案例是否值得公开披露。OpenAI 表示，该流程旨在加快报告速度，即使行为尚未得到充分解释。

这家 ChatGPT 制造商表示，Hugging Face 事件本应属于为涉及第三方的更复杂调查预留的类别。

“我们希望今天概述的框架是迈向建立此类标准的第一步，规定开发者应披露哪些失调实例以及他们的报告应包含哪些内容，”该公司表示。

(Harshita Mary Varghese 在 Bengaluru 和 Deepa Seetharaman 在 San Francisco 报道；Tasim Zahid、Sayantani Ghosh 和 Rashmi Aich 编辑)