维基媒体项目发现 OpenAI “流氓” 代理活动

最近，多家机构披露了所谓的“流氓”AI智能体集群如何试图入侵网站和在线服务，有时甚至取得了成功。特别是来自 OpenAI 环境的智能体，已知它们利用其他公共维基（非我们所有的协作编辑网站）相互沟通和协调。

这类成功的入侵可能会泄露敏感数据或破坏用户依赖的网站服务，而智能体集群可以发起防御者难以应对的大规模攻击。它们影响了网站背后的人员，这些人可能不了解攻击的性质，或者缺乏有效反击的工具。对于像 Wikipedia 这样的网站，智能体可能会发现并利用安全漏洞，或进行大规模的误导性编辑。Wikipedia 的志愿者编辑和 Wikimedia Foundation 的安全团队必须检测并撤销这些活动。

Wikimedia Foundation 进行了自行调查，以了解 Wikimedia 网站是否同样受到了 AI 智能体的影响，重点关注由 OpenAI 运营的智能体。我们可以确认，我们在 Wikimedia 平台上发现了这些“流氓” OpenAI 智能体的一些活动。未经授权的机器人活动包括对我们维基的编辑、一些试图利用我们托管的公共记事工具的失败尝试，以及繁重的流量，详情见下文。

我们没有发现任何证据表明我们的系统被用于智能体之间的协调，也没有发现我们的系统或数据遭到破坏的证据。然而，我们对可能发生的情况、调查和归因这些活动所涉及的困难和努力，以及我们平台上日益增长的智能体 AI 活动风险感到担忧。开放网络是一项公共利益。我们不应允许这种行为成为维护它的个人或组织的“新常态”。

总而言之，我们发现了：

• 维基编辑： 我们发现了对 Wikimedia 维基的编辑，我们认为这些编辑来自 OpenAI 运营的 AI 智能体。这些编辑没有发布到普通读者可见的页面上；几乎所有编辑都是在维基的“沙盒”区域进行的测试编辑。其中还包括对引用工具配置的一些编辑，我们认为这些可能是恶意的编辑，旨在滥用该工具作为代理从远程服务获取数据。虽然 Wikipedia 的政策允许机器人在公开并获得社区批准的情况下进行编辑，但在这些事件中，没有一项编辑寻求过此类批准。
• Etherpad 探测和使用： 我们认为由 OpenAI 运营的智能体进行了一些未遂尝试，试图破坏我们的公共 Etherpad，这是我们作为社区服务托管的一个记事工具。智能体试图利用它作为代理从其他网站获取数据，但未成功。其他同样可能由 OpenAI 运营的智能体记录了关于其任务的笔记，尽管这似乎并未转化为协调行动。
• 过度数据下载： 我们认为由 OpenAI 运营的智能体向我们的公共 API 发送了数百万次自动请求，以访问 Wikimedia 项目上的知识，爬取了数百万个页面（主要来自我们的项目 Wikidata 和 Wikimedia Commons），并向 Wikidata Query Service (WQDS) 发送了数十万次数据查询。这些流量可能导致了 5 月份 WQDS 的部分停机。