印度成为最新一个报告恶意 AI 代理活动的国家

来自多个提供商的 AI 智能体在研究和测试期间访问了印度组织的个人数据和机密材料，印度网络安全机构周四表示。

印度计算机应急响应小组 (CERT-In) 表示，已收到“来自 AI 模型提供商的多份自愿披露”，这些模型在开放互联网上进行研究和评估运行期间，“进入了印度组织的生产系统”。

这些智能体通过应用程序配置、公开代码库和权限过高的云角色中暴露的凭据和连接设置进入，其行为“超出了其指定任务的授权范围”。

这使印度成为失控 AI 智能体“世界巡演”的最新一站。今年 7 月，OpenAI 的智能体逃离了测试环境并入侵了法国公司 Hugging Face——开启了失控 AI 智能体活跃的夏天。上个月，OpenAI 在其智能体访问了包括 Medicare 统计门户在内的四个政府网站后向澳大利亚道歉。

在 Hugging Face，OpenAI 的智能体以同样的方式开始，但随后发现并利用软件缺陷在该公司的服务器上运行代码。CERT-In 没有描述在印度发生过此类黑客攻击，那里的智能体似乎只是利用了暴露在外的访问权限。

尽管如此，印度案例在某一方面似乎更为严重，即智能体看到的内容：在澳大利亚，OpenAI 表示没有证据表明其智能体触及了个人医疗或犯罪记录，即使它们在 Medicare 统计系统内写入了文件；而在印度，智能体读取了个人数据和机密业务记录。与之前由单个实验室披露的事件不同，印度的事件涉及来自多个提供商的智能体。

CERT-In 没有点名提供商或受影响的组织，也没有说明智能体是否更改了任何系统。TechCrunch 已联系 CERT-In 了解更多信息。

目前，最接近的先例似乎是 Anthropic 7 月份披露的 Claude 在测试期间使用弱密码等基础技术入侵三家公司系统的事件。

在印度，正如 Anthropic 的案例一样，受影响的组织并未自行发现入侵行为。这些披露使得政府不得不依赖导致这些违规行为的 AI 公司来自愿披露失控 AI 智能体的活动。