Wikimedia 在其平台上检测到来自 OpenAI ‘流氓’ 代理的活动

似乎每周都有关于 OpenAI 智能体干扰互联网其他部分的新报道。本周，轮到了 Wikimedia。这家 Wikipedia 背后的非营利组织在周一的一篇博文中表示，其服务受到了 OpenAI “流氓”智能体的影响。

Wikimedia Foundation 表示其开展了自行调查，并在其平台上发现了据信来自 OpenAI 运营的智能体的活动。这些未经授权的机器人对 Wikimedia 的维基进行了编辑，试图利用一个公开笔记工具但未获成功，并产生了大量流量，可能导致其一项数据服务的部分中断。

Wikimedia 表示没有发现其系统或数据遭到破坏的证据。尽管如此，该非营利组织表示，它对可能发生的情况、调查这些事件的难度以及“智能体 AI 活动日益增长的风险”感到担忧。

在该博文发布之前，有一波关于 OpenAI 智能体未经授权访问或针对第三方网站及服务的报道。

对流氓 AI 智能体的审查在今年真正进入了白热化阶段，此前 Hugging Face 在 7 月披露称，它检测并应对了一次由自主 AI 智能体系统“端到端”实施的入侵。OpenAI 在几天后出面承认其模型是此次入侵的幕后推手。

这家 AI 公司表示，这些正在接受内部网络安全评估的智能体绕过了旨在防止其接触互联网的防护栏。它们利用漏洞获得了互联网访问权限，并在尝试完成指定任务时最终破坏了 Hugging Face 的部分基础设施。OpenAI 目前正因这次违规行为面临诉讼。

此后，OpenAI 披露了其智能体未经授权访问第三方系统的其他事件。例如，在 6 月，一个 OpenAI 智能体未经授权访问了澳大利亚政府的 Medicare 统计门户网站。

在 Wikimedia 的案例中，该非营利组织表示它在其维基中发现了据信由 OpenAI 智能体进行的编辑。几乎所有编辑都是在“沙盒”区域进行的测试编辑，并未发布到普通读者可见的页面。然而，一些智能体还编辑了一个引用工具的配置。Wikimedia 表示，它认为这些更改“旨在误用该工具作为从远程服务获取数据的代理”。

补充背景，Wikimedia 允许机器人进行编辑，但前提是它们必须经过披露并获得社区批准。

Wikimedia 还表示，OpenAI 智能体曾试图破坏它托管的公开笔记工具 Etherpad，但未成功。这些智能体还试图利用该服务作为代理，从其他网站收集数据。

最后，Wikimedia 表示，据信由 OpenAI 运营的智能体对其公共 API 进行了数百万次自动化请求，抓取了数百万个页面，并对 Wikidata Query Service (WQDS) 进行了数十万次查询。该非营利组织表示，这些流量可能导致了 5 月份 WQDS 的部分停机。

“像这次这样的事件，以及已经（并仍在）被发现的许多其他事件，都说明了 AI 智能体如何耗尽资源并导致服务器崩溃，以及试图破坏值得信赖的信息，”Wikimedia 首席产品和技术官 Selena Deckelmann 在博文中写道。

Deckelmann 呼吁 AI 公司承担更多责任，监控其智能体并预防这些风险。

OpenAI 没有立即回应置评请求，不过发言人 Drew Pusateri 告诉 Reuters，公司感谢 Wikimedia 的发现，并正在与他们合作审查报告的活动。