我们必须立即从市场召回具有联网功能的开放式AI智能体

来自 The New York Times 的最新消息，这是许多以惊人频率发生的由智能体引发的事件中最新的一起，但这一次来自 Anthropic，而且相当严重：

我长期以来一直觉得 OpenAI 在处理这件事上做得不够。在 Anthropic 看到类似的事件发生，让人完全明白，当前这一代合成智能体根本无法信任。在它们得到修复之前，它们应该被从市场上移除，就像一辆刹车失灵的汽车一样。

§

Ezra Klein 对最近离职的 AI 员工 David Robinson 的新访谈进一步证实了我的感觉，即这些公司已经完全陷入了力所不及的境地：

部分引用如下：

而且我不认为我们或我们的同行——实际上，行业内的任何一个人——做得足够安全。我认为 OpenAI 及其同行现在生产的技术比 six months 前生产的技术能力更强，风险也更大。

我不是科学家。我是个作家。我所知道的是我们的安全工作执行环境是什么样的，而我们——我相信整个行业也是如此——仍然像一家初创公司那样运作，其程度超出了合理的范围。也许不完全像一家全新的初创公司，但对于可能带来风险（例如失去控制）的真正危险系统来说，我们过于接近那个极端。如果真的发生了这种情况，我们所讨论的危害将远远超过单个核电站熔毁的程度。而内部控制、安全性和冗余设计远未达到世界对核电设施的预期。

现在，其中一些情况是众所周知的，对吧？OpenAI 已经公开报告了安全问题。显然，Hugging Face 也是，还有其他公司，包括最近的案例。顺便说一句，Anthropic 也做过报告，包括一起其安全保障措施被意外配置错误的事件。

所以我认为人们从外部已经掌握了一些证据，表明情况并非如其应有的那样。但我还认为，如果你从外部观察，你可能会想象我们拥有的安全设置比实际情况要稳健得多。

§

Trump 政府对增加透明度的无力要求是远远不够的，这无异于平淡地要求犯罪分子提交关于他们犯下了哪些罪行的每月报告。

政府每一天未能采取更强有力的行动都是一个错误，会招致更严重的问题。现在早已过了他们应该对一种明显危险的技术实施临时召回的时机。

当真正糟糕的事情发生时，White House 而不仅仅是科技公司，将承担责任。