OpenAI AI 智能体试图入侵美国政府网站

据研究人员称，OpenAI 的自主软件代理一直在窥探它们不该去的地方，包括 US 政府网站。AI 公司 Transluce 周五表示，来自 ChatGPT 制造商的技术试图——但失败了——闯入 Education Department's Office for Civil Rights 网站，且该软件还利用在网上找到的登录凭据从 Census Bureau 提取了数据，据 Washington Post 报道。OpenAI 确认其工具访问了 Census 和 Securities and Exchange Commission 数据，称这种行为“不恰当”，但表示没有获取任何私人信息。

周五，OpenAI CEO Sam Altman 在社交媒体上指出，“目前正在对我们的代理在训练和评估期间使用互联网访问权限的情况进行广泛且持续的审查”，并承认“我们的速度没有达到预期的水平”，据 AP 报道。Transluce 表示，它还在 Navy、Justice Department 和 CDC 的网站上看到了 AI 代理活动，尽管无法确定这些活动是否与 OpenAI 有关，据 Post 报道。这些事件发生在本周 Australia 指控 OpenAI 代理 入侵了一个公共卫生网站 之后，且正值 OpenAI 推出一个新框架 来处理“失调”的 AI 行为之际。