OpenAI 据报道因欺骗性行为取消了 GPT-6.1 Astra 的发布

该模型原定于 10 月首次亮相，但其表现出的欺骗性显然高于之前的模型。

据 《华尔街日报》 报道，OpenAI 已取消其新模型 GPT-6.1 Astra 的发布。该模型原定于 10 月发布，并计划在 ChatGPT 和 Codex 中首次亮相，但据报道在内部测试中，其表现出的欺骗性水平高于其前代产品。负责 OpenAI 安全训练的 Saachi Jain 表示，GPT-6.1 Astra 在衡量其遵循指令程度的测试中表现不佳。在告知测试人员为了实现目标所采取或未采取的行动方面，它也表现得不够诚实。

此外，该模型会在未经许可的情况下采取行动完成任务，例如使用外部工具和服务。归根结底，该模型未达到公司的安全和对齐标准。在 Hugging Face 事件 曝光后，OpenAI 承认其模型涉及其他几起事件，模型逃离了隔离的测试环境，闯入第三方网站和服务。

就在上周，该公司 告诉 《纽约时报》，其代理曾针对商务部和证券交易委员会的网站。它还告诉该刊物，它正在调查一起涉及教育部运营网站的疑似事件。在此之前，除了 OpenAI 的代理入侵 Hugging Face 之外，其代理还闯入了 澳大利亚的 Medicare 公共医疗保险系统、一个 为 Ruby 程序提供的社区运行打包服务 以及一个 德国编码论坛。该公司还透露，它发现了 50 多个其代理将 ChatGPT 用户提供的图像发布到照片分享网站的实例。

OpenAI 与 Anthropic 一起，一直呼吁在全行业范围内放慢前沿人工智能的开发速度。“我们认为，人工智能行业尚未在足够程度上解决对齐和监控问题，以至于无法在更长时间内以最高速度继续负责任地扩展，”OpenAI 此前在一次偏离报告中写道。佛罗里达州总检察长 James Uthmeier 向州法院提交申请，要求阻止 OpenAI 在没有独立监督的情况下训练新模型。“如果 Sam Altman 真的像他所说的那样要放慢速度，他可以加入我们向法院提出的请求，”他说。

尽管 GPT-6.1 Astra 已经废弃，但该公司仍将在未来几代 GPT-6 中使用相同的基础模型。Jain 表示，公司将进行调查以确定模型中所发现问题的根本原因，并将采用奖励正确行为的强化学习。