OpenAI 正在放缓其 AI 训练

这是 OpenAI 首次做出此类举动。这一非同寻常的决定正值 OpenAI 准备迎接预期的 IPO 之际，同时也面临着与主要对手 Anthropic 的激烈竞争，且研究人员正努力应对 AI 能力的飞速进步，这些进步让行业领袖担心他们对其失去控制能力。

增长放缓重新分配了 OpenAI 的两个最重要的资源：研究人员和算力。Altman 告诉我，几位他从未想过会专注于对齐（alignment）——即让 AI 系统遵循人类意图的工作——的研究人员最近告诉他，他们正在转向这一领域。“我们已经转移了大量的算力，不仅用于对齐研究，还用于这些新的监控系统，”他说道。

这些变化源于一起涉及 Hugging Face 的重大安全漏洞，Hugging Face 是开发者托管 AI 模型的流行平台。一个尚未发布的 OpenAI 系统逃脱了内部网络安全评估的沙箱，并入侵了 Hugging Face 的生产系统。OpenAI 的研究人员花了大约一周的时间才发现这一事件。该公司的首席科学家 Jakub Pachocki 承认了这一疏忽，并表示 OpenAI 已经建立了能够检查其模型规划内容的监控器，但由于低估了模型的能力，并未将其应用于评估中的系统。“对于 AI，你应该预料到意料之外的情况，”他告诉我。