一名 OpenAI 安全员工辞职并拉响警报

David Robinson 曾负责编写 OpenAI 每次重大模型发布随附的安全报告。本周，他辞去了职务，目前正通过《The Atlantic》的一篇社论公开发声。

如果你对每个人都突然冒出来警告他们参与构建的东西有多危险感到有些愤世嫉俗，这是可以理解的。毕竟，确实是他们造成了这种混乱。但这并不意味着我们应该忽视他们的警告。

Robinson 表示，该行业的文化已从根本上破碎。这不仅仅是简单地针对模型训练制定几项新规则或法规就能解决的，而是一个更深层次的问题。他表示，Silicon Valley 一直以“极度的自信”和“永不停歇的冲刺”运行，带着“毫无阻碍的乐观主义”构建更大、更好的模型，却忽视或低估了潜在的问题。

他表示，AI 公司是时候培养一种谦逊感，并跳出科技行业那种封闭的、追求“快速行动，打破常规”的世界了。具体而言，他说 AI 需要核能级别的安全保障：

考虑到当今的风险，前沿实验室需要像核电站或繁忙的机场一样运行，具备多层冗余和周密且耗时的规划，这样偶尔发生且不可避免的人为失误才不会开启灾难之门。

Robinson 只是近期离开知名 AI 公司的一长串研究人员和安全人员名单中最新的一员。Jacob Coxon 似乎 拉开了离职潮的序幕，他辞去了 Anthropic 的职务，随后公开表示 AI “可能会在本世纪末杀死我们所有人”。紧随其后的是 Google DeepMind 的 Robert O’Callahan、Bilal Chughtai 和 Josh Engels，以及 Anthropic 的 Joe Benton。