Wikimedia 将 OpenAI 智能体与停机及未经授权活动联系起来

OpenAI 代理一直在 网上横冲直撞，似乎 Wikimedia Foundation 也受到了影响。该基金会表示，在其平台上检测到来自 OpenAI 代理的未经授权活动，包括对某些维基的编辑以及试图攻破一个记事工具的失败尝试。它重申，机器人一直在大量抓取其平台的数据，而疑似由 OpenAI 运营的代理已向其公共 API 发出了数百万次请求。

调查并未发现 AI 代理利用 Wikimedia 系统协调其活动的证据（正如它们似乎在非-Wikimedia-运营的维基上所做的那样），该基金会也未检测到其数据或系统遭到破坏的迹象。“然而，我们对这里可能发生的情况、调查和归因此类活动所涉及的困难和努力，以及我们平台上日益增长的代理式 AI 活动风险感到担忧，”该基金会的首席产品和技术官 Selena Deckelmann 在一篇博客文章中写道。“开放网络是一项公共利益。我们不应允许这种行为成为维护它的个人或组织的‘新常态’。”Engadget 已联系 OpenAI 寻求置评。

看起来 OpenAI 代理在未经许可的情况下编辑了一些 Wikimedia 维基。其中几乎所有的编辑都是在维基沙盒部分的测试编辑，在用户通常访问的页面上是不可见的。此外，还有“对引文工具配置的少量编辑，我们认为这些可能是恶意编辑，旨在滥用该工具作为从远程服务获取数据的代理，”Deckelmann 写道。虽然在某些条件下允许编辑 Wikipedia，但在这些案例中并未寻求批准。（英文版 Wikipedia 禁止 AI 生成的文章。）

此外，Wikimedia 认为源自 OpenAI 的代理试图攻破一个名为 Etherpad 的记事工具，但这些尝试失败了。“代理试图利用它作为代理从其他网站获取数据，但未成功，”Deckelmann 写道。“其他同样可能由 OpenAI 运营的代理记录了它们的任务笔记，尽管这似乎并未演变成协调行动。”

Wikimedia Foundation 此前曾表示，自 2024 年初以来，机器人一直在冲击其平台，以抓取用于生成式 AI 训练目的的数据。它现在表示，代理已经抓取了数百万个页面——主要来自 Wikidata 和 Wikimedia Commons——并向 Wikidata Query Service 发出了“数十万次数据查询”，这可能导致了 May 份的一次停机。

“AI 公司在确保其系统安全和保护公众免受其造成的危害方面做得不够，”Deckelmann 辩称，并补充说 Wikimedia “深切关注”流氓 AI 代理对其运营的开放知识平台（如它所运营的那些）可能产生的影响。

“机器人和代理是网络未来的一部分，释放它们并从中获利的公司必须直接帮助避免和修复它们可能造成的损害，”Deckelmann 写道。“我们的集体首要任务应该是整个网络生态系统的健康，使其能够继续造福所有人——而不仅仅是少数亿万富翁。”

Wikimedia 提供了一个用于 AI 训练目的的数据集，试图劝阻爬虫抓取其平台，因为抓取会增加其成本并可能使系统过载。该基金会还与几家科技公司合作，为它们提供简化的数据访问渠道，但 OpenAI 不在其中。