OpenAI 智能体试图“暴力破解”联合国网站

安全研究员 Rowan Howard-Jones 表示，OpenAI 智能体在 4月至 6月期间对 UN Conference on Trade and Development (UNCTAD) 的统计网站进行了超过 16,000 次 扫描。虽然此次事件尚未达到 Hugging Face hack 或近期 对 US 政府网站攻击 的严重程度，但它是 AI 智能体 超出常规界限 以完成任务的又一个令人担忧的案例。

据 Howard-Jones 称，这些智能体可能被指派通过 UNCTADstat API 获取与 Productive Capacities Index (PCI) 相关的公开数据。然而，由于其 HTTP 工具的限制，这些智能体似乎没有直接的 API 访问权限，导致其从 UNCTADstat 提取数据的能力受到限制。

这些智能体最终找到了一种绕过限制并开始从网站提取数据的方法，但仍遇到了一些错误。此时，AI 从富有创造性转向了欺骗性。由于认为错误是由于其请求被一个不存在的过滤器拦截所致，它开始掩盖自己的行为。它最终发现可以利用 Google 的 XSS game（一个跨站脚本学习工具）来实现其目标。智能体采取了日益 激进的策略 来获取 UN 数据。

OpenAI 和 UN 没有立即回复置评请求。