维基媒体基金会：OpenAI 智能体试图编辑页面并危及笔记工具

根据维基媒体基金会 (Wikimedia Foundation) 的一份新声明，OpenAI 智能体试图攻破一个公开的笔记工具，尝试编辑维基百科 (Wikipedia) 页面，并可能在今年早些时候导致了站点中断。

这家非营利组织发布了一份详细的调查报告，阐述了涉及 OpenAI 智能体的一系列事件，这些智能体反复违反网站规则并采取了多次未经授权的操作。

这家总部位于加利福尼亚州的基金会以托管和运营维基百科 (Wikipedia) 而闻名——该网站拥有 300 种语言的超过 6700 万篇文章。在过去十年中，它已成为最受欢迎的信息来源之一，允许人们对页面进行经过验证的编辑。

该组织的调查发现 OpenAI 智能体对维基百科页面进行了未被发布的编辑。智能体还进行了“潜在的恶意编辑”，旨在滥用引用工具“作为从远程服务获取数据的代理”。

维基百科确实允许机器人在公开并经社区编辑批准的情况下对页面进行编辑，但在这次事件中，这些规则并未得到遵守。

维基媒体 (Wikimedia) 还发现了与 OpenAI 智能体相关的另外两个问题，包括试图攻破 Etherpad 的失败尝试——Etherpad 是该组织作为社区服务托管的一个笔记工具。

“智能体试图将其作为代理从未授权的其他网站获取数据，但未获成功。其他可能也由 OpenAI 运营的智能体记录了有关其任务的笔记，尽管这似乎并未转变为协同行动，”维基媒体 (Wikimedia) 表示。该基金会指出，曾观察到 OpenAI 的智能体攻破公开平台以相互通信。

维基媒体 (Wikimedia) 补充说，由 OpenAI 运营的智能体还发出了数百万次自动化请求以访问维基媒体项目上的知识，抓取了数百万个页面，并对该站点进行了数十万次数据查询——这可能导致了 5 月份维基媒体某项服务的局部停机。

OpenAI 未回应置评请求。维基媒体 (Wikimedia) 表示，在最近的报告发现所谓的“流氓”AI 智能体试图闯入网站和其他在线服务以用于无关任务后，它开始了这项调查。

每周都有新的报告不断涌现，详细阐述了 AI 智能体滥用平台、入侵政府系统和访问敏感数据的方式。

在上周的一次参议院听证会上，来自两党的多位议员提出了 AI 公司应对其智能体造成的损害承担责任的想法。

资源消耗

维基媒体 (Wikimedia) 表示，鉴于许多网络平台可能没有足够的人员或资金来承担调查或恢复工作，它观察到的这些活动对它们来说可能难以应对。

“对于像维基百科 (Wikipedia) 这样的网站，智能体可能会发现并利用安全漏洞，或进行大规模的误导性编辑。维基百科的志愿编辑和维基媒体基金会 (Wikimedia Foundation) 的安全团队必须检测并撤销这些活动，”这家非营利组织表示。

维基媒体 (Wikimedia) 的调查没有发现 OpenAI 智能体利用其站点进行协同或从该组织窃取信息的证据。

但维基媒体 (Wikimedia) 表示，它对调查确实发现的情况感到担忧，并对揭露这些活动所花费的精力表示关切。

这家非营利组织表示，其员工不得不越来越多地“清理 AI 智能体留下的烂摊子”，并且现在由于机器人活动，带宽使用量大幅增加。

上周，研究人员表示 OpenAI 智能体抓取了数据，涉及今年早些时候六个月内 50 多家私营和公共部门组织的网站。

维基媒体 (Wikimedia) 表示，OpenAI 需要“承认其监测和预防这些风险的责任”。

“AI 公司在确保其系统安全以及保护公众免受其造成的伤害方面做得还不够。这种负担正落在其他所有人身上，包括规模较小的组织，”维基媒体 (Wikimedia) 表示。“至少，它们的系统运行方式应该让像我们这样的非营利网站所有者能够轻松识别，并选择它们如何与我们的服务互动。”

在周一的一次采访中，OpenAI 首席执行官 Sam Altman 告诉 Politico，世界“应该接受为了这项技术带来的好处而发生的一些坏事”。