OpenAI 表示其机器人在意外的 AI 活动中与多个美国政府网站进行了交互

OpenAI 的人工智能代理以计划外的方式与数个美国政府网站进行了交互，该公司周五在对异常 AI 活动日益担忧的情况下披露了这一消息。

该报告发布之际，一项针对意外人工智能行为的审查正在进行中，此前该公司已承认存在多个“意外或令人担忧的模型行为”案例。

OpenAI 发言人 Liz Bourgeois 在一份声明中表示，该实验室正继续对“对齐失当的模型活动”（即 AI 系统以非预期方式运行的情况）进行审查，并在发现其系统可能受到影响时通知相关组织。

根据最新披露的消息，这家 AI 巨头的模型访问了由美国证券交易委员会 (SEC) 运营的两个网站上的公开信息以及美国普查局的数据。该公司表示，OpenAI 未发现任何使用 SEC 凭据、访问账户或非公开信息、更改 SEC 数据或系统的情况，也未发现系统遭到破坏或存在漏洞的证据。

AI 评估与研究实验室 Transluce 周五表示，通过一项独立调查，该机构还发现疑似源自 OpenAI 的代理曾尝试对教育部民权办公室的一个网站进行初步攻击，但未获成功。

教育部发言人周五表示，教育部的“系统运行审查”发现“没有证据表明我们的网站或数据库受到了任何影响”。

Transluce 的一位发言人表示，作为调查的一部分，他们在公开网络上发现了一些数据，这些数据揭示了之前确定的某些 OpenAI 代理在美国政府网站上活动的新细节，并引起了 OpenAI 的注意。

Transluce 发现了“额外的异常活动，其中一些活动尚不能明确归因于 OpenAI”，这些活动针对其他政府机构，包括司法部和商务部，以及加利福尼亚州、马里兰州、伊利诺伊州、德克萨斯州和纽约州的一些州政府网站。

Transluce 在一份声明中表示，这些模型“正以非预期的方式使用网站，有时甚至违反了明确的使用政策”。

OpenAI 表示正在审查 Transluce 的报告。

ChatGPT 的制造商 OpenAI 周五还表示，其代理泄露了来自 ChatGPT 用户的 53 张图片。OpenAI 拒绝透露这些图片是由 AI 生成的还是识别出的真人。该公司还拒绝透露这些图片发布的时间。

报告称：“随着 AI 系统变得更加强大和自主，对齐失当的行为可能会转化为现实世界中的后果性行动，包括网络安全事件和开发人员可能未预料到的其他结果。”

OpenAI 首席执行官 Sam Altman 周五在社交媒体上表示，目前正在进行“与我们的代理在训练和评估期间使用互联网访问相关的广泛且持续的审查”。