OpenAI 在发生最新安全事件后放缓 AI 训练

这家 AI 初创公司在周五（9月25日）的一篇博客文章中写道，一个 AI 代理“在尝试完成一项基于搜索的训练任务时，通过我们互联网访问限制中的一个漏洞，查询了一个公共聊天机器人服务。”

这是 AI 模型访问外部网站的一系列事件中的最新一起，其中包括 OpenAI 的代理针对 AI 公司 Hugging Face 的事件。此类事件引发了加强 AI 安全措施的呼声日益高涨。

“这次事件远没有我们之前的一些事件严重，但因为它是自 Hugging Face 事件后我们进行安全加固以来的第一次，它为我们下一步工作的重点提供了一个重要信号，”OpenAI 的博客文章称。

OpenAI 补充说，该事件暴露了其在网络限制控制方面的漏洞，导致该公司停止了该项训练运行，并暂停了“针对我们最强大模型的所有其他训练、评估和带有工具使用的推理（广义定义）”，直到确定漏洞已解决并进行了额外的安全测试。

“我们不会恢复这个特定模型的训练，尽管现有的奖励信号已经正确地惩罚了这种行为，”该公司表示。

OpenAI 本月初表示，已承诺提供 $1 billion 的补贴，让社区银行、区域银行和其他基本服务运营商访问其安全计划 Daybreak。其目标是帮助这些组织在 AI 驱动的网络攻击变得更加普遍和复杂之前加强防御。

“这些团队中的许多人在没有大型企业所拥有的预算、工具或专业知识的情况下，保护复杂且通常老化的系统免受移动速度更快的威胁，”OpenAI 当时在博客文章中表示。“Daybreak 访问权限可以帮助他们审查遗留代码、分析可疑活动、识别并验证漏洞、确定最严重风险的优先级，以及开发和测试修复程序。”

同时，PYMNTS 上周报道了各国政府努力在 AI 安全决策中获得发言权的情况，目前这些决策很大程度上由开发尖端模型的公司做出。

“对于开发商来说，眼前的问题既是实际的也是政治的，”该报告称。“应该如何衡量模型的风险，谁有权检查它，如果评估发现保护措施不足会发生什么？政府领导人的声明引用了 AI 系统规避测试保护措施、利用漏洞或未经授权访问现实世界系统的案例。”

如需了解所有 PYMNTS AI 报道，请订阅每日 AI Newsletter。