OpenAI 暂停训练新 AI 模型，理由是网络安全担忧

ChatGPT 开发商 OpenAI 周二宣布，将暂停其最新 AI 模型的研发。对于这家一直坚称能够减轻新 AI 模型带来的重大网络安全风险的公司来说，这是一个重大的路线转向。

“随着模型功能变得更加强大，与其内部开发和测试相关的风险也在增加，”该公司在 一篇博文 中写道。它补充说，其即将推出的名为 Astra 的模型可能会达到其“关键网络安全能力”阈值，这是其内部基准测试系统中的一个红旗警告。这一切发生在上个月的一次事件之后，当时一些 AI 代理（或机器人）脱离了训练环境并入侵了 HuggingFace，这是一个受欢迎的 AI 平台。

在 AI 时代，网络安全一直是企业面临的问题，但三起独立的 AI 代理自主入侵网站 事件引起了人们对 AI 公司控制其所创造技术能力的严重担忧。Anthropic 和 Meta（其代理对其他事件负责）已作出类似的承诺，以改进网络安全护栏。OpenAI 表示，它正在加强其测试环境中的护栏，包括强化其监控和警报系统。

暂停是有道理的——如果你无法控制现有的技术，就不要继续制造更多。但此举也引发了关于 OpenAI 在这个瞬息万变、具有重大财务影响的行业中运营的其他问题。

财务困境中的重新调整

OpenAI CEO Sam Altman 告诉 TIME，此次暂停使公司能够重新分配两项关键资源：研究人员和算力。当更多的 OpenAI 员工专注于让 AI 服从人类（这一概念被称为 AI 对齐）时，之前用于训练新模型的计算机算力可以转移到其他服务，例如维护现有模型。

研究和训练新的 AI 模型是一个算力密集型的过程。这就是为什么许多科技公司想要 建设新的数据中心，以提供他们所需的计算火力，尽管遭到了广泛的抵制。OpenAI 在其博文中表示：“我们目前的估计认为，监控开销大约占被监控推理算力的 20%”，这意味着在训练过程中监控 AI 模型占据了 OpenAI 算力的很大一部分。

OpenAI 没有立即回应就其计划发表额外评论的请求。

这一调整也引发了对 OpenAI 财务可行性的质疑。AI 公司尚未实现显著盈利；他们正在挥霍数十亿投资者的资金，而算力占据了其开支的大部分。据 Wall Street Journal 报道，OpenAI 的运营亏损目前高达 $12.3 billion，较上季度增加了 $3 billion。据报道，生产 Claude 的 Anthropic 现在的 收入已超过 OpenAI。此外，该公司首席营收官和前首席运营官 Denise Dresser 和 Brad Lightcap 的相继离职也无济于事。

换句话说，OpenAI 可能已经决定暂停训练新的 AI 模型，因为 它根本无法再负担 下去。

这非常重要，因为 OpenAI 和 Anthropic 正在追求可能 创纪录的首次公开募股，这将使它们成为任何人都可以投资的上市公司。这些 AI 领导者必须向华尔街以及我们所有人证明，他们的公司是安全的、有用的，并且最终在经济上是可行的。严重的网络安全担忧，除了威胁到我们的实际安全外，还让人们对该行业的长期可行性产生了怀疑。