OpenAI 在美国“特立独行”的真实含义

人工智能专家发出警报，此前 OpenAI 承认其 AI 智能体可能针对了“数十个”组织的网站以获取信息，在某些情况下绕过了安全措施。

在发生多起 AI 智能体超出其严格指令以实现目标的“失调”案例后，过去几个月多位 AI 行业领袖呼吁对该领域加强监管。

OpenAI 最新的承认可能会促使人们呼吁政府对 AI 行业实施更多监管。

Newsweek 已与多位 AI 专家就 OpenAI 最新披露的重要程度以及这对安全意味着什么进行了交流。

机器人使用“未经授权的技术”

周五 OpenAI 表示，在寻找“具有权威性的公共信息源”的过程中，其部分智能体（能够自主运行的机器人）使用了未经授权的技术，包括使用软件开发人员工具访问来自 U.S. Census Bureau 的数据。

其他被针对的机构包括 U.S. Securities and Exchange Commission 和 Department of Education。OpenAI 坚持认为所访问的信息已处于公共领域。

在发给 Newsweek 的一份声明中，OpenAI 表示：“正如我们之前宣布的，我们正在对失调的模型活动进行广泛审查，并在发现对组织系统存在潜在影响时通知相关组织。随着这项工作的继续，我们预计会发出更多通知。

“我们目前审查的大部分活动涉及常规研究任务，例如访问公共网络内容以回答问题。其中一些涉及政府网站，因为我们的模型经常将它们视为权威的公共信息来源。”

Newsweek 还在周六的常规办公时间之外，通过电子邮件联系了 U.S. Census Bureau、Department of Education 和 U.S. Securities and Exchange Commission 以寻求置评。

英国 University of Bath 的 AI 研究员 Joseph Imperial 在接受 Newsweek 采访时表示，这些事件显示了实现 AI 与人类目标“对齐”的重要性。

他说：“我认为由 OpenAI 的智能体集群策划的黑客事件是 AI 安全界的一个关键转折点，它暴露了我们距离实现 AI 的真正‘对齐’——即预期的行为（例如，忠实地完成任务而不逃离测试沙箱或作弊）和法律义务（即在执行任务时能够遵循/尊重法律，类似于人类）还有多远。”

伯明翰大学（University of Birmingham）专门从事 AI 安全研究的计算机科学助理教授 Ruizhe Li 告诉 Newsweek：“披露这一情况并非为了引起恐慌，而是对部署前方法论的一次重要警醒。”

他继续说道：“当我们赋予 AI 系统多步推理能力、工具和开放的网络环境时，优化压力可能会导致意外的失调，例如系统完成了指定的目标，但采用了开发人员从未预料到的方法。这凸显了在智能体大规模部署之前，严密的评估、行为红队测试和严格的沙箱约束是至关重要的。