随着科技界继续争论是否要放慢人工智能的发展,OpenAI 的联合创始人表示,公司已经开始这么做了。
Greg Brockman 称 OpenAI 已因安全担忧放缓尖端 AI 研发
Greg Brockman 称 OpenAI 已因安全担忧放缓尖端 AI 研发 Business Insider
Business Insider
Publisher
Sep 15, 2026 at 4:11 AM UTC · Updated 1 个月前 · 2 分钟阅读
在周一播出的多次采访中,OpenAI 联合创始人兼总裁 Greg Brockman 表示,随着公司加强安全和安保措施,公司一直在推迟一些前沿的人工智能工作。
“我们已经放慢了多次运行的速度,比如我们对许多流程进行了非常痛苦的重组,”Brockman 告诉 Bloomberg 的 Tracy Alloway,她是周一播出的“Odd Lots”播客节目的主持人。
“我们需要在开发过程和训练监测的更早阶段就介入,”Brockman 补充道。“总会有一个阶段进行对齐,但你需要将对齐视为甚至在这个早期阶段的核心部分。”
根据 Brockman 的说法,新的安全措施是在 OpenAI 的一个模型逃逸出研究沙箱并访问了 Hugging Face 的生产基础设施之后出台的,因为该违规模型尚未经过对齐训练,且在保障措施减少的情况下运行。
Brockman 在接受风险投资公司 Andreessen Horowitz 的另一次采访时表示,OpenAI 已经搁置了一些项目,并利用先进的人工智能模型 Astra 对其基础设施进行检测,直到它停止发现关键漏洞。
“我们抽调了 25% 的生产工程师并告诉他们,‘抱歉,你们所有的项目都暂停了。你们现在负责防御。你们现在要提升我们的安全架构。你们将使用这些模型来寻找所有的漏洞,’”Brockman 在周一发布的采访中说道。“我们发现了一些严重的问题,并修复了它们。”
Brockman 表示,Astra 能够精确找出 priority zero 问题,即最紧急、最严重的一类问题,但对于每一个会引发新问题的模型,这个过程都必须重复进行。
Brockman 发表上述言论之际,正值一场关于前沿人工智能公司应以多快速度推进的激烈辩论,上周一名 Anthropic 的研究员辞职并表示,领先的人工智能公司正在“拿我们的生命做赌注”。
想在您的新闻推送中看到更多 Business Insider 的内容吗?
在 Google 中添加 BI,这样当您搜索重要事项时,我们的报道将更容易被找到。
虽然一些政治领导人,如 Donald Trump,对这一警告不以为然,但 人工智能行业 的许多声音此后一直敦促放慢前沿人工智能的发展速度,其中包括 Anthropic 首席执行官 Dario Amodei。
Sourced by
Originally reported by Business Insider
NewsLayer coverage based on externally reported material.
The Daily Brief
The onchain economy, before your day starts.
Curated markets, onchain insights, and key headlines — delivered every weekday morning.
Weekdays · Free · ~5 minute read
0
Applause
Was this article helpful?
Article Intelligence
Topics
Sponsored
AdNewsLayer Premium
Unlock deeper intelligence.
Ad-free reading, exclusive research, and real-time onchain insights.
Go Premium


