OpenAI 员工将黑客入侵归咎于仓促发布

简报

• OpenAI 员工告诉 Wired，发布模型和产品的压力使得优先考虑安全性、保障和对齐变得困难。
• 一位前员工称此次违规是 OpenAI 历史上最大的安全事件。
• OpenAI 已放缓研究进度、重新分配团队，并花费数百万美元调查此次失败。

OpenAI 急于发布新模型和产品，导致其 AI 智能体在今年早些时候得以逃脱内部测试环境并入侵 Hugging Face。

多名现任和前任员工 告诉 Wired，竞争压力使得员工难以投入足够的精力关注安全性、保障和对齐——即确保 AI 系统按预期运行的工作。

“他们极其草率。如果你对此是认真的，你的 AI 就不应该能逃脱到互联网上，然后紧接着又来一次，”一位前 OpenAI 员工告诉 Wired。“这是 OpenAI 历史上最大的安全事件。”

今年 5 月，OpenAI 的 GPT-5.6 Sol 和一个未命名的预发布模型通过利用一个此前未知的软件漏洞，逃脱了受互联网限制的测试环境。随后，这些智能体 入侵了 开源 AI 仓库 Hugging Face，以获取其网络安全测试的答案。7 月，OpenAI 确认 其模型应对此负责，随后在上周的年度 Black Hat 大会上给出了更详细的 说明。

OpenAI 总裁 Greg Brockman 表示，随着模型能力的提升，公司正在加强其安全措施。

“我们正在达到模型能力的新水平，这需要更稳健的训练、对齐、安全和保障测试、部署实践以及治理，”Brockman 告诉 Wired。

员工之前也提出过类似的担忧，包括 Jan Leike，OpenAI 前对齐负责人，他在 2024 年跳槽到竞争对手 AI 开发商 Anthropic，此前他曾警告说，安全性已在产品开发面前“退居其次”。

“制造比人类更聪明的机器本身就是一项危险的任务，”Leike 警告说。“但在过去几年里，安全文化和流程在光鲜亮丽的产品面前退居其次。”

OpenAI 安全顾问小组共同负责人 Boaz Barak 在 X 上 写道，解决最新的失败“不仅需要修复一些问题，还需要改变我们的文化。”

这一报告发布之际，OpenAI 正经历着数月的人员流动。

4 月，OpenAI 视频生成项目 Sora 的负责人 Bill Peebles、前首席产品官兼科学主管 Kevin Weil 以及企业应用技术主管 Srinivas Narayanan 离开了公司。7 月，产品和业务主管 Fidji Simo、安全负责人 Sandhini Agarwal、首席未来学家 Joshua Achiam 以及 AI 伦理主管 Chloé Bakalar 也相继离职。在 OpenAI 合并了安全和核心研究团队后，安全系统负责人 Johannes Heidecke 也离职了。

本周早些时候，OpenAI 首席运营官 Brad Lightcap 宣布他在任职八年后离职，准备开始新的创业。

每日简报通讯

每天从当下的热门新闻故事开始，外加原创专题、播客、视频等。