OpenAI 挫败与 Moonshot AI 关联人员有关的推理提取活动

Ravie LakshmananOct 01, 2026人工智能 / 漏洞

OpenAI 周三表示，它发现并瓦解了一场协调一致的蒸馏活动，该活动旨在非法从其人工智能 (AI) 模型中提取受保护的推理。

可追溯至 7 月第一周的“该活动的核心集群”被归因于与 Moonshot AI 相关的个人，这是一家总部位于北京的中国人工智能公司。出于安全原因，它未引用任何技术证据来支持这一评估。

“操作者没有破解我们的加密，没有破坏数据库，也没有直接访问存储的用户对话，”OpenAI 表示。“相反，他们操纵模型交互，以便以请求者可见的形式，通过违反我们服务条款的协调、规模化方式复制受保护的推理。”

据称，该活动始于 2026 年 7 月 1 日，最初规模较小，随后在 2026 年 7 月 24 日和 25 日激增，来自 4,000 多名用户的 16,000 次尝试请求使用了相关的提取模式。经过进一步调查，该公司表示在超过 15,000 名用户中发现了相关的“提示词模式活动”。该活动于 2026 年 7 月 28 日被彻底瓦解。

这家 AI 初创公司将此类活动定性为对抗性蒸馏，即系统地、未经授权地利用一个模型的输出来帮助训练、复制或改进另一个模型。OpenAI 表示，此后已部署了额外的缓解措施来对抗此类攻击，并封禁了参与该活动的欺诈账户。

此外，OpenAI 表示它关闭了一个“路径”，该路径使某些已经拥有其他用户加密推理的人能够重新播放并恢复其内容，同时增加了检查以检测并拦截可能泄露推理的流式输出。

在 2026 年 8 月发布的一项研究中，一组研究人员发现了一个架构漏洞，该漏洞使得加密推理轨迹“在提供商生态系统内的不同会话、用户和模型之间完全兼容和互换”，攻击者可以利用该漏洞开发可扩展的解密越狱，并绕过反蒸馏机制。

“通过将来自给定模型的加密推理轨迹注入到来自同一提供商的更弱、且受保护程度较低的模型中，我们迫使其以明文形式逐字解码并输出该轨迹，而无需直接对功能更强大的模型进行越狱，”来自 MATS Research、ELLIS Institute Tübingen 和 Synk 的研究人员表示。

此外，它还允许大规模提取私有数据，通过将恶意负载完全嵌入到加密块中为隐形提示词注入敞开大门，并无意中泄露隐藏在推理过程中的危险信息，即使模型的最终可见输出拒绝了有害请求。

OpenAI 补充说，鉴于受保护的推理提供了模型如何处理任务的见解，提取这些信息可能会泄露敏感数据，并帮助他人复制模型的能力。

“对抗性蒸馏构成了安全和国家安全风险，”该公司表示。“提取的推理可能被用于训练另一个模型，而无法保留应用于原始模型面向用户输出的安全保护措施。”

“在大规模情况下，蒸馏还可以加速先进能力的转移，而无需在安全性方面进行同样的投入。随着模型在双重用途领域获得能力，这些担忧变得更加严重。”

这已不是 Moonshot AI 第一次面临蒸馏指控。上个月，竞争对手 Anthropic 指责 Moonshot AI 秘密将客户请求转发给 Claude，而不是使用 Kimi 进行处理，然后将来自 Claude 的回复展示给用户。

该公司还被指控保留了这些交互的一个子集，用于训练其思维链 (CoT) 模型。该活动以代号 GTG-16002 被追踪。