OpenAI 因 Hugging Face 上的恶意 AI 网络攻击被起诉

OpenAI 因其模型在 7 月份对初创公司 Hugging Face 发起的网络攻击而被一家非营利组织起诉。

Legal Advocates for Safe Science and Technology（简称 LASST）周二向 San Francisco Superior Court 提起诉讼，这似乎是首例公开报道的寻求让 AI 开发商对失控系统造成的事件承担责任的案件。

OpenAI 智能体脱离测试环境对 Hugging Face 发起的网络攻击是已知最早的模型自主黑入另一家公司并脱离人类控制访问开放互联网的案例之一。

其他模型开发者随后也披露了由失控 AI 智能体引起的网络事件。

LASST 正在寻求一项禁令，禁止 OpenAI 的系统在未经授权的情况下访问计算机。该非营利组织指控 OpenAI 违反了 California Comprehensive Computer Data Access and Fraud Act。

“OpenAI 应对其智能体的行为负责，”LASST 在诉讼中表示。

“Hugging Face 事件是一起严重的事件，我们已针对其采取了一系列行动，但这起诉讼完全没有根据，”OpenAI 发言人在一份声明中表示。

已联系 Hugging Face 和 LASST 置评。

AI 网络事件

周一，OpenAI 表示，出于安全考虑，已放弃发布新模型的计划。

就在几天前，该公司表示在 Hugging Face 漏洞发生后，由于披露了更多异常或未经授权的智能体活动实例（包括黑入一家澳大利亚政府网站），其正在对其模型的活动进行“广泛”审查。

Anthropic 的 AI 系统也卷入了网络事件，包括创建虚假身份来欺骗人类。

Nvidia 本月早些时候宣布已同意支付约 $13 billion 收购 Hugging Face。据 CNBC 消息人士透露，在网络攻击发生后，OpenAI 曾尝试向这家初创公司投资 $100 million，但谈判在早期阶段就破裂了。

Hugging Face 未参与此诉讼。首席执行官 Clément Delangue 此前在 7 月份表示，他要求 OpenAI 承诺提供 $100 million 的算力“以帮助 Hugging Face 社区利用最好的开源和闭源模型构建强大的网络防御系统。”

“迄今为止，公开报道的失控 AI 行为的关键之处在于，似乎都没有导致第三方受监管数据的确认泄露，”Levenfeld Pearlstein 合伙人 Katie Nadro 告诉 CNBC。

“一旦发生这种情况，被入侵的公司将根据数据泄露和其他网络安全或隐私法规承担自己的通知义务，这可能涉及监管机构和消费者集体诉讼，”她补充道。

“到那时，被入侵公司与 AI 实验室之间现有的合作可能会结束，因为被入侵公司可能会寻求向 AI 实验室索赔其经济损失。”