OpenAI 在为其机器人导致的黑客攻击道歉一天后，发布全天候 AI 智能体

信任和安全问题笼罩着这次活动。在新产品发布的前一天晚上，OpenAI 就其智能体入侵澳大利亚政府网站的行为道歉。“我们感到抱歉，并正在努力在未来做得更好，”它在一篇博客文章中表示。

这一发生在 6 月的事件涉及一个正在开发中的内部模型，该模型访问了与澳大利亚公共健康保险计划相关的非公开信息。周二，Altman 和 OpenAI 领导层强调，这一事件——以及 OpenAI 系统“失控”或以非预期方式运行的其他重大事件——都涉及不打算公开发布的内部模型，与提供给用户的商业产品截然不同。

“我们披露的案例运行的是内部专用模型，并未计划发布，”OpenAI 产品负责人 Alex Embericos 表示。

尽管存在这种区别，Altman 表示，在推动 AI 发展的前沿与安全地构建尖端 AI 系统之间存在权衡。

“为了将模型推向新的能力水平，我们需要一些时间来弄清楚如何确保对齐、监控、安全和保障能够遥遥领先于能力，”他在主题演讲后告诉记者。“但你可以看到，我们在没有重大新模型的情况下构建了大量有用的新东西，而且未来会有新模型。”

周一，OpenAI 宣布将推迟发布其最新模型 GPT-6.1 Astra，原因是担心该系统不遵循人类指令。“虽然 [GPT-6.1 Astra] 在模型懒惰等维度上有所改进，但在保持在范围和授权范围内方面尚未达到标准，”安全系统负责人 Saachi Jain 在一份声明中表示。

OpenAI 的领导人还承认，其新产品将需要大量的计算资源，Altman 将 Dots 归类为“高端产品”。他表示，公司希望未来最终能向大众市场推出 Dots 的一个版本，理由是计算密集度是分阶段推出的原因。

Dots 仅面向订阅了 OpenAI Pro 方案的用户（每月 100 至 500 美元），以及 Business Premium 和部分 Enterprise 用户。Dots 在欧洲和英国也无法使用，Altman 将此归因于该地区严格的法规。

“我们在欧盟发布产品方面有很好的记录，但他们确实有一个耗时更长、有时甚至无法预测的流程，”Altman 告诉 NBC News。“但我们真的很想向欧洲人提供我们所有的产品。”

Altman 揭晓 Dots 的几周前，Facebook 和 Instagram 的制造商 Meta 发布了 其 Muse 系列 AI 智能体，并将其称为“您的个人代理”。Muse 应用已冲上苹果和安卓应用商店的榜首，迅速超过了来自 Elon Musk 旗下 xAI 的 Grok Bot 智能 AI 产品。

OpenAI 还 推出了一款新模型，GPT-6.1 Sol，称其在性能上几乎与顶级的 Astra 模型相匹配，但价格仅为后者的一小部分，此外还宣布了加强隐私协议和一个让用户与其系统互动的新协作空间——贴切地命名为“ChatGPT Space”。

当 Altman 和 OpenAI 员工推销他们的新产品时，OpenAI 总裁 Greg Brockman 正在全国另一端与总统 Donald Trump 以及数十位其他科技领袖会面，规划宏伟的 AI 愿景。Trump 利用这次机会“开启了超级智能时代”。

Altman 表示，他希望华盛顿会议能让 AI 巨头就 AI 风险达成共识，同时允许社会拥抱这项技术的潜在好处。

Altman 表示，他不同意那些拒绝承认 AI 可能带来重大风险的行业领导者的观点——“你可以想象一个正当的 AI 失控事故，因为我们对安全和保障不够重视”——同时他也与 AI 可能在几年内杀死全人类的说法保持距离。

“我的希望是，在这个行业中，我们可以团结起来说，我们需要在这两者之间找到中间道路，”他说。