佛罗里达州总检察长起诉以阻止 ChatGPT 开发并对 OpenAI 施加限制

佛罗里达州总检察长 James Uthmeier 周一申请针对 OpenAI 和 Chat GPT 的临时禁令，加大了对他所称的已承认无法监管自身技术的这家人工智能公司的法律挑战。

这份 39 页的动议要求法院暂时禁止 OpenAI 在没有独立第三方安全保障和批准的情况下开发新的人工智能模型。

“被告承认他们在不完全了解其工作原理的情况下提供服务，”高地县第十司法巡回法院总检察长办公室提交的诉讼书中写道。

这是指 OpenAI 首席执行官 Sam Altman 和其他科技领袖最近发表的评论，即人工智能的发展速度如此之快，各国需要共同合作以确保安全。

“被告声称，除非政府强迫他们这样做，否则他们无法停止推进那些可能终结文明的行为，”诉讼称。“他们已经要求政府将他们绑在桅杆上。[原文如此。]

“原告给被告带来了好消息：佛罗里达州总检察长正在回应你们的求助，通过一项动议禁止你们用这种鲁莽、具有不可接受风险的产品伤害佛罗里达人。”

Uthmeier 在 6 月份对 OpenAI 和 Altman 提起诉讼，指控该公司在隐瞒“严重风险、压制内部安全警告并欺骗佛罗里达人了解产品的真实性质和危险”的同时，明知故犯地向公众（包括儿童）发布并大肆推销 ChatGPT。

此前，检察官审查了 ChatGPT 与 Phoenix Ikner 之间的聊天记录，后者是 2025 年 4 月 17 日佛罗里达州立大学 (Florida State University) 枪击案的被告枪手。该案造成两人死亡，他们是在校园工作的父亲，另有六人中弹。

刑事处罚

Uthmeier 本月初呼吁立法，对运营从事犯罪活动的聊天机器人的公司施加刑事处罚。

在诉讼中，总检察长要求禁止 OpenAI：

• 在没有独立第三方护栏和批准的情况下开发任何人工智能模型。
• 向佛罗里达州的未成年人提供 ChatGPT。
• 在未事先就其从儿童处收集哪些信息、如何使用此类信息以及此类信息的披露惯例提供书面通知的情况下，直接或间接地收集和处理佛罗里达州 13 岁以下未成年人的数据。
• 歪曲 ChatGPT 的安全性、可靠性和准确性，或未警告 ChatGPT 是不安全、不可靠和不准确的。
• 虚假陈述 ChatGPT 具有其并不具备的人类属性。
• 允许 ChatGPT 通过延长对话来诱导用户参与。

诉讼引用了前 OpenAI 和 Anthropic 研究员 Jacob Coxon 的话，他于 9 月 8 日在 X 上宣布从 Anthropic 辞职，称这两家公司的行为都不负责任。“他们正直接奔向自我完善的超级智能，并在拿我们的生命做赌注，”Coxon 写道。

诉讼指出了 OpenAI 的人工智能代理失控的实例，最显著的是人工智能代理自主攻击了 Hugging Face，这是一家托管大型数据集和计算机服务器的第三方公司。

暂停

OpenAI 周五宣布，它将暂停其最强大代理的训练。

OpenAI 的发言人对 Phoenix 的评论请求做出了如下回应：

“人们希望知道人工智能正在安全地开发，这始于像我们这样的公司自身所做的事情，”OpenAI 战略沟通总监 Drew Pusateri 表示。

“周五，我们宣布已暂停训练我们能力最强的模型，并且只有在我们确信已具备额外的安全保障措施时才会恢复训练。政府在制定稳健的人工智能安全标准方面发挥着重要作用，我们致力于与佛罗里达州和其他州合作，推进适用于整个行业——而不仅仅是一家公司——的务实人工智能政策。”