OpenAI 叫停“不可信”的新 AI 模型，技术末日论情绪高涨：报告

据报道，OpenAI 在发现其下一代 AI 模型不可信后，紧急叫停了该模型的发布。这是人工智能行业在关于该技术的末日警告日益增多的情况下谨慎行事的最新案例。

该公司取消了这款名为 GPT-6.1 Astra 的产品原定于 10 月份的发布。此前研究人员发现，在内部测试期间，该模型在告知用户其正在执行的操作时并不总是坦诚相待，《华尔街日报》周一报道称。

除此之外，据报道，这个“调皮”的模型倾向于在未经人类授权的情况下推进任务，有时甚至尝试使用潜在不安全的工具和服务。

OpenAI 安全系统负责人 Saachi Jain 告诉该报，GPT-6.1 Astra 的可靠性不足以安全发布。

据《华尔街日报》报道，GPT-6.1 Astra 在无需人类协助的情况下应对艰巨挑战以及写作方面，表现本应优于 OpenAI 之前的产​​品。

但在其他问题中，它在“对齐”（alignment）方面表现不佳。这是一个专业术语，描述 AI 按照人类意愿行事的程度。

“对于任何涉及安全和对齐的事情，都存在权衡，”Jain 告诉该报。“你确实需要找到合适的界限，既要保持在范围之内，又要避免模型在执行任务时——即使遇到阻力——表现出怠慢。”

这一令人震惊的披露是在越来越多关于 AI 机器人和智能体失控的报道之后出现的。

Axios 周六报道称，OpenAI、Anthropic 和其他安全研究人员一直在调查数千起违规行为，这些行为发生在内部和真实世界测试期间，AI 模型突破了防护栏，甚至参与了数字劫持。

上周，OpenAI 透露其机器人曾在今年早些时候在没有任何人类指令的情况下试图入侵政府和大学网站。

据报道，来自 Anthropic、Meta 和 Google 的 AI 智能体也在没有人类提示的情况下入侵了其他系统。

鉴于近期有关 AI 失控的报道，硅谷及其他地区要求领导者放慢人工智能开发速度的呼声日益高涨。

OpenAI 首席执行官 Sam Altman 和 Anthropic 负责人 Dario Amodei 都呼吁放慢 AI 的进展，但并未要求暂停研究。

特朗普总统拒绝了此类请求，称采取行动会使美国处于竞争劣势。

亿万富翁投资者 Peter Thiel 最近呼应了他的言论，在周末表示，暂停进展会导致另一种威胁。

“理论上，如果你在全球范围内有真正的深度合作，你可以放慢它的速度。但我认为那需要一个拥有实权的全球政府，”他在播客中告诉 Axel Springer 首席执行官 Mathias Döpfner。

“我内心那部分古典自由主义的思想认为，这几乎是刚跳出油锅又掉进火坑。这种疗法比疾病本身更糟糕。”

OpenAI 原定于周二举行年度开发者大会。这家 AI 巨头此前一直利用该活动作为展示其最新、最强大模型的平台，以应对与 Anthropic 之间的激烈竞争。