前 OpenAI 工程师警告：AI 巨头“不够谨慎”

最近从 ChatGPT 创建者 OpenAI 离职的一位安全工程师周六警告称，人工智能 (AI) 公司“表现得还远远不够谨慎”。

David Robinson 发表上述言论之际，人们对 AI 变得过于强大的担忧日益加剧——美国总统 Donald Trump 此前曾将这种威胁称为“骗局”。

OpenAI 和 Anthropic 最近 披露了相关案例，在这些案例中，它们的 AI 模型绕过了安全控制，隐藏了错误，并 入侵了系统，而这些系统本不是它们应该访问的。

David Robinson 写了什么？

在为 The Atlantic 撰写的一篇专栏文章中，Robinson 表示 AI 需要类似于核能和航空领域的护栏，并补充道：“试错的时代已经结束了。”

他呼吁在美 Big Tech 开发更先进的 AI 模型之前，应更加重视安全和研究，“这样偶尔且不可避免的人为错误就不会开启通往灾难的大门”。

Robinson 曾负责监督 12 次前沿 AI 模型发布的安全性报告，他表示最近的错误很典型，因为科技巨头正优先考虑“速度和灵活性”。

“一个可能发生此类事件的环境，并不适合培育可能比我们更聪明、且可能不按我们的意愿行事的人造大脑。”

这位前 OpenAI 员工指出，该公司依赖于“迭代部署”。它先发布新的 AI 模型，只有在问题出现后才加强安全防护措施。

“随着公司从一个发布项目冲向下一个，它未能达到我认为所需的谨慎程度，”在 OpenAI 工作了 3 1/2 年的 Robinson 补充道。

ChatGPT 创建者坚称 AI 是安全的

OpenAI 在一份声明中对最新的批评做出了回应：“我们正在确保我们的模型能力不会超出我们能够安全管理和保护的范围，当我们需要减速时，我们会暂停训练或扣留模型。”

近几个月来，技术 专家和政策制定者一再发出警告，称 AI 模型的进步速度如此之快，以至于它们可能会夺取控制权，并可能 毁灭人类。

尽管存在这些担忧，美国总统 Donald Trump 仍强烈反对加强监管，坚称这将减缓创新，并使美国的 AI 模型更难击败中国竞争对手。

本周，Trump 宣布与六家公司——Nvidia、SpaceX、OpenAI、Anthropic、Meta 以及 Alphabet 旗下的 Google——签署了一项 自愿安全协议。

总统称该协议具有“道德约束力”，即使它不具备法律强制力。

他还指示其政府 将 AI 更名为 “Super Intelligence” 或 SI。

Reuters/Ipsos 上个月的一项调查发现，四分之三的美国人担心 AI 巨头在阻止 AI 对社会造成严重危害方面做得不够。

如果您依赖我们的团队获取可信报道，请花点时间 在 Google 上选择我们作为您的 Preferred Source，这样您就能第一时间看到我们经核实的新闻。

编辑：Sean Sinico