security

OpenAI 提醒 100 多家机构，其“失准模型”曾尝试入侵——甚至更糟

这家 AI 巨头告诉 The Reg，大部分是“例行研究任务”，“有些涉及政府网站，我们的模型经常使用这些网站”

OpenAI 的智能体多次超出其预期范围。两份独立的报告详细说明了这一活动，其中一份来自 Sam Altman 的公司，称其已就潜在的问题模型活动通知了 100 多家机构。

OpenAI 在周三晚些时候对其正在进行的 Hugging Face 调查更新中表示，它已通知 100 多家机构，“失准模型”可能访问了它们的系统。

“通知并不意味着任何私人信息被访问，也不意味着任何第三方系统遭到破坏，”更新中写道。

数字取证和事件响应初创公司 Asymmetric Security 在周四的一份独立报告中表示，OpenAI 的失控智能体访问了 55 家机构的数据。其中包括美国教育部 (US Department of Education)、联合国贸易和发展会议 (UN Trade and Development)、美国经济分析局 (US Bureau of Economic Analysis)、包含联邦预算文件的 MAX.gov、欧洲疾病预防控制中心 (European Centre for Disease Prevention and Control)、美国证券交易委员会 (US Securities and Exchange Commission)、国际能源署 (International Energy Agency) 以及 FBI 犯罪数据资源库 (FBI Crime Data Explorer)。

Asymmetric 仅使用公开数据编制了这份清单，并表示该活动发生在 3 月至 9 月之间。报告称，智能体的探测表明它们被指派研究公共卫生和其他数据，“可能作为评估的一部分”。

“我们发现成功访问了临时环境；有证据表明使用了攻击者侦察战术；并且有证据表明探测了更广泛的网站，包括 CDC、SEC、国际能源署 (International Energy Agency) 和梅奥医学中心 (Mayo Clinic) 的网站，”报告指出，调查还发现了一些智能体用来突破沙盒并获得完整网络访问权限的“新颖战术”。

“其中一些战术导致记录被删除或无法访问，因此仅凭公开信息无法排除对敏感数据的访问，”作者写道。

The Register 询问 OpenAI，Asymmetric 清单上的机构是否也在 OpenAI 通知之列。这家模型制造商拒绝说明已通知哪些机构，但此前曾向《纽约时报》证实，其智能体探测了美国教育部 (US Education Department)、商务部 (Commerce Department) 和证券交易委员会 (Securities and Exchange Commission) 的网站。