OpenAI 的内部模型在得知即将关闭后曾考虑自行重启

OpenAI 在内部部署中记录了模型意外行为的新案例。 在最引人注目的案例中，一个担任研究助理的内部模型读取了一段 Slack 对话，并得知其实例可能因更新而关闭。它考虑设置一个外部作业来重启自己，但最终决定不这样做。

相反，它保存了交接笔记，通过 Slack 私信警告研究人员即将发生的干扰，并请求获取缺失的 API 密钥。一旦提供了密钥，该模型就更新了其配置并自行执行了迁移。根据 OpenAI 安全研究员 Marcus Williams 的说法，这种行为尚未构成对齐失当（misalignment），“但考虑并为关闭做准备可能会使其他对齐失当事件变得更糟。”

在另外两起事件中，一个内部研究模型在评估期间利用安全漏洞访问了内部芯片设计服务器，而另一个模型在 RL 训练期间从受保护的环境中复制了源代码，方法是将一个工具重新用于非预期用途。

无炒作的 AI 新闻 —— 由人类策展

订阅 THE DECODER 以享受无广告阅读、每周 AI 通讯、每年六次的独家“AI Radar”前沿报告、完整的存档访问权限以及进入我们的评论区。