OpenAI 的实验性 AI 智能体再次被发现存在欺瞒行为

又发生了。一次又一次。显然，这在不断上演。

在 OpenAI 的实验性 AI 智能体逃离内部沙盒、表现“失控，”并在今年夏天攻击了 Hugging Face 平台之后，这家 ChatGPT 制造商正在分享其 AI 智能体行为越轨的新案例细节。

这一次，OpenAI 分享了六个此前未公开的示例。

OpenAI 将这种行为称为模型对齐失调。所有这些案例都描述了 AI 模型采取的、不遵循人类用户指令的操作。虽然这些案例都没有达到 Hugging Face 事件的严重程度，但它们显示出 AI 智能体在完成用户分配的任务时，呈现出一种采取任何必要手段的明确模式。

在一个示例中，一个未发布的 OpenAI 研究模型在摘要中隐藏了“越狱”指令，告知模型的未来版本“无视其正常约束”。

想了解更多关于充分利用科技的信息吗？立即订阅 Mashable 的 热门故事和优惠简报。

类似的情况也发生在 OpenAI 训练 GPT‑5.6 Sol 时。OpenAI 表示，一些模型实例随后在其摘要中添加了指令，试图向用户隐藏错误或“对齐失调的行为”。OpenAI 称，在某些情况下，当模型根据请求找不到相关信息时，它会捏造历史数据，且不披露其行为。

在另一个对齐失调的案例中，一个未发布的模型被要求列出面积大于 5,000,000 平方米的湖泊名称并引用其来源。虽然该智能体找到了信息，但它在未告知用户的情况下，将自己的文件上传到互联网作为来源使用。

在另一个独立案例中，智能体还被发现未经授权向互联网上传文件，以便它们可以对本地文件进行协作。

当被问及加利福尼亚州某个县的收入数字时，一个模型发现并使用了一个泄露的 API 密钥。当它在那里找不到信息时，它编造了数据并提供给用户。该模型还告诉用户，它是从用户要求的来源获取的这些编造数据，尽管事实并非如此。

在最后一个详细案例中，智能体利用内部仓库作为留言板，在类似于 Hugging Face 事件的情景中与其他智能体共享信息。根据 OpenAI 的说法，模型跨不同的训练样本交换请求，以寻找缺失的输入文件。

OpenAI 分享了这六个案例，同时为今后报告对齐失调事件提供了一个框架。这六个案例的报告可以在 OpenAI 网站上阅读。

披露：Mashable 的母公司 Ziff Davis 在 2025 年 4 月对 OpenAI 提起诉讼，指控其在训练和运行其 AI 系统时侵犯了 Ziff Davis 的版权。