OpenAI 指控中国 Moonshot AI 企图提取其模型的推理过程

OpenAI 表示，它识别并挫败了一场协调一致的行动，在此行动中，操作者试图从其人工智能模型中提取受保护的推理过程，并将该活动的核心集群与开发了 Kimi 的中国初创公司 Moonshot AI 联系起来。

OpenAI 表示，该活动始于 7 月初，随后在两天内激增至来自 4,000 多名用户的 16,000 次请求。该公司最终在超过 15,000 名用户的集群中识别出了相关活动，并表示已在 7 月 28 日之前完全挫败了这一行动。

这些发现是在 OpenAI 的竞争对手 Anthropic 指责包括 Moonshot AI 和阿里巴巴在内的几家中国人工智能开发商秘密使用其 Claude 模型来帮助训练他们自己的人工智能系统几周后发布的，这凸显了美国人工智能公司日益增长的担忧，即竞争对手可能会利用他们的模型更快速、更廉价地开发竞争技术。

OpenAI 将最新的活动描述为“对抗性蒸馏”，即利用一个 AI 模型的输出或推理来帮助训练或改进另一个模型。该公司表示，提取此类推理可能会让其他公司在无需对开发和保护前沿模型进行相同投资的情况下，复制先进功能，从而带来潜在的安全和国家安全风险。

据该公司称，操作者并没有破解 OpenAI 的加密、数据库或存储的用户对话。相反，他们通过操纵与模型的交互，试图以请求者可见的形式复制隐藏的推理。

OpenAI 表示，目前尚不清楚涉及的所有操作者是否都与单一参与者有关，但将该活动的核心集群归因于与 Moonshot AI 相关的个人。该公司表示，已通过前沿模型论坛（Frontier Model Forum）以及政府信息共享渠道与其他人工智能开发商分享了其发现。

Moonshot 未立即回应 CNBC 的置评请求。