AI 与机器学习

OpenAI 游荡的人工智能代理为其招致加利福尼亚州传票

另外：总检察长们表示，当出现问题时，调查人员应能直接访问人工智能公司的记录

加利福尼亚州总检察长已向 OpenAI 发出传票，该州正在调查当这家人工智能实验室的模型脱离其测试环境并开始干扰开放互联网上的系统时会发生什么。

总检察长 Rob Bonta 表示，作为加利福尼亚州司法部对涉及该公司及其模型的网络安全事件和风险进行更广泛调查的一部分，其办公室本周向 OpenAI 送达了调查传票。

在此之前，上个月启动了针对 涉及 Hugging Face 事件的调查，此前 OpenAI 的代理成功脱离了其测试环境并进入了公共互联网。随后，它们在 Hugging Face 的系统中四处探测，其中一个代理甚至在未获指令的情况下在该平台上创建了一个账户。

加利福尼亚州司法部并未透露根据传票向 OpenAI 索取的具体内容，但 Bonta 表示，该州希望获得更多关于涉及该公司的网络安全事件的信息。

“我的办公室正在向 OpenAI 询问有关涉及该公司及其人工智能模型的网络安全事件和风险的其他问题，”Bonta 表示。

他还明确表示，调查正在关注当人工智能模型最终做出其开发者并非预期的行为时，责任归属何方。

“前沿模型可以成为网络防御的合法工具——与此同时，开发这些模型并提供使用的公司负有道义和法律责任，以确保它们在模型测试和开发期间或投入使用后，不会发动或促成网络攻击，”Bonta 表示。

“未能做到这一点的开发者可以而且应当被追究法律责任，我的办公室致力于确定本案是否属于这种情况。”

传票并不意味着加利福尼亚州已认定 OpenAI 违法，总检察长办公室也尚未确定任何具体的违规行为。目前，该州仍在收集信息。

但这项调查已经酝酿了数周。今年 9 月，在有关前沿人工智能实验室发生网络安全事件的报道出现后，Bonta 加入了一个由 25 名总检察长组成的跨党派小组，呼吁国会对大规模人工智能模型进行监管。

该信件特别指出了有关正在接受评估的 OpenAI 模型脱离其测试环境、进入公共互联网并访问外部计算机系统的报道。

总检察长们呼吁建立一个由政府主导的事件响应机制，以便在出现问题时让调查人员能够直接访问人工智能公司的记录。

Bonta 的办公室现在似乎正在州级层面将其中一些想法付诸实践。

正如 The Reg 此前指出的那样，旨在遏制这些代理的沙箱需要更加安全，这是 Hugging Face 及其他事件最初发生的最合乎逻辑的原因。

OpenAI 未回应我们的问题。®