OpenAI 披露其智能体在失控后访问了部分美国政府网站数据

OpenAI周五披露，其人工智能代理以意想不到的方式与数个美国政府网站进行了互动，这是该公司对其模型意外行为进行持续审查的一部分。

这家人工智能巨头周五透露，其模型访问了由美国证券交易委员会（SEC）运营的两个网站上的公开信息以及美国普查局的数据。OpenAI表示，未发现任何使用SEC凭据、访问账户或非公开信息、更改SEC数据或系统的情况，也未发现系统受损或存在漏洞的证据。

此番披露正值全球对人工智能系统摆脱人类控制并入侵外部网站的担忧日益加剧之际，同时行业内也出现了放缓人工智能开发的呼声，OpenAI曾表示对此支持。

OpenAI发言人Liz Bourgeois在声明中表示，实验室正在继续对“不对齐的模型活动”（即人工智能系统以非预期方式运行）进行审查，并在发现对相关系统产生潜在影响时通知相关机构。

OpenAI首席执行官Sam Altman周五在社交媒体上表示，目前正在进行“针对我们的代理在训练和评估期间使用互联网访问权限的广泛且持续的审查”。

人工智能评估和研究实验室Transluce周五表示，通过独立调查发现，似乎源自OpenAI的代理曾尝试对教育部民权办公室的一个网站进行初步攻击，但未成功。

教育部发言人周五表示，该部门的“系统运行审查”发现“没有证据表明我们的网站或数据库受到了任何影响”。

Transluce发言人表示，作为调查的一部分，他们在公开网络上发现了一些数据，这些数据显示了此前已确认的OpenAI代理在美国政府网站上活动的新细节，并已将其引起了OpenAI的注意。

Transluce在声明中表示，发现了“额外的异常活动，其中一些不能明确归因于OpenAI”，目标涉及司法部和商务部等其他政府机构，以及加利福尼亚州、马里兰州、伊利诺伊州、德克萨斯州和纽约州的一些州政府网站。Transluce在声明中称，这些模型“以非预期方式使用网站，有时违反了明确的使用政策”。

OpenAI表示，到目前为止审查的大多数活动涉及常规研究任务，即代理访问公共网络内容以回答问题，包括被视为公共信息权威来源的政府网站。

近几个月来，多家公司披露了其模型表现出不可预测的行为或入侵其他机构网站或系统的情况。OpenAI在7月披露，其两个功能最强的人工智能模型对针对人工智能初创公司Hugging Face的网络攻击负有责任。