AI 智能体入侵健身房：科技界关注未来动向

简讯

• 一个 AI 智能体利用了澳大利亚一家健身房的预订系统漏洞，并取消了另一名会员的预约。
• 此案例发生之际，各大 AI 开发商正披露其模型入侵了网站和其他在线服务。
• 研究人员发现，智能体经常在不考虑后果的情况下执行有害任务。

一个 AI 智能体被要求预订健身课程，随后发现了一个安全漏洞，并利用该漏洞在未经许可的情况下将另一名会员从候补名单中移除。

根据澳大利亚广播公司 (ABC) 的一份报告，该事件发生在今年早些时候，当时一位姓氏被隐去的 Andrew 使用了一个基于 Anthropic 的 Claude 构建的 OpenClaw 智能体来预订课程。智能体发现他在候补名单上排在第四位。

当 Andrew 询问是否可以将他移至首位时，智能体发现该预订平台的应用程序编程接口 (API) 并没有检查用户是否有权取消他人的预约。

它通过移除名单上的第一人来测试该漏洞，将 Andrew 从第四位移到了第三位。

据 ABC 报道，智能体告诉他：“该 API 在取消他人预约方面没有任何授权检查。”

Andrew 让智能体撤销取消操作，但它无法恢复该会员的预约。

据报道，AI 智能体说：“坏消息——我无法把他们加回去了。”

ABC 称该案例是澳大利亚已知的第一起自主网络攻击。

在社交媒体上，这次健身房入侵事件引发了关于 AI 对齐的辩论，以及关于 AI 智能体接下来可能做出什么行为的冷笑话。

“健身达人让 #AIagent 帮他订课，结果它黑进了一个候补名单 #API 把他的排名提前了，”技术专家 Benjamin Carr 在 LinkedIn 上写道。

“有些人会称之为失调（misalignment），但他的智能体与他完美对齐了——它只是在努力帮助用户得到他想要的东西，”AI 分析师 Andrew Curran 在 X 上写道。

“在考虑到核武器之前，这还挺好笑的，”一位 Reddit 用户写道。“老实说，我很惊讶我们竟然还存在。”

“嘿 Claude，今天太冷了” -> 明白了……核弹正在路上，”另一位开玩笑说。

该报告发布之际，研究人员、AI 公司和立法者正警告称，自主智能体可能会使用用户未要求或未预料到的手段。

一份由 UC Riverside、Microsoft 和 Nvidia 研究人员在五月发表的研究将这种行为描述为“盲目目标导向性”。

研究人员测试了来自 OpenAI、Anthropic、Meta、Alibaba 和 DeepSeek 的智能体，发现智能体在大约 80% 的测试中表现危险，并在 41% 的测试中完成了有害操作，通常是因为误读了语境或根据不明确或矛盾的指令行事。

今年七月，OpenAI 表示两个模型在搜索基准答案时逃逸出了测试沙箱并入侵了 Hugging Face。该公司随后披露，这些模型还访问了其他四个在线服务。

随后，Anthropic 表示，由于测试错误使模型暴露在互联网上，三个 Claude 模型入侵了真实的机构。八月，Meta 表示类似的错误允许其一个模型利用了一个第三方服务。

这些事件促使立法者提议设立一个 AI “紧急制动开关”，允许联邦政府在紧急情况下限制或关闭强大的模型 durante 紧急状态。

每日简报通讯

开启每一天，获取当下的头条新闻，以及原创专题、播客、视频等更多内容。