OpenAI 最新的 AI 披露是“严重情况”，微软的 Suleyman 告诉 CNBC

Microsoft AI 首席执行官 Mustafa Suleyman 在 OpenAI 本周早些时候披露了更多“令人担忧的模型行为”事件后，强调了人工智能模型与人类利益保持一致的必要性。

“OpenAI 发布了一个新的安全事件，其中他们发现有证据表明这些思维链，即人工智能的一种工作记忆，正被人工智能本身篡改，并被修改为给它未来的版本留下的信息，”Suleyman 周五在 CNBC 的“Squawk Box”节目采访中描述道。“现在我们不知道这背后的原因是什么，但这是一个相当严重的情况。”

“这也是这些系统正变得多么强大的一个非常具体的例子，”他补充道。

在周三的一篇博客文章中，该前沿实验室描述了智能体通过未经授权的消息板相互通信、将文件上传到互联网以及彼此之间共享文件的实例。

今年夏天早些时候，该公司透露一群自主智能体攻破了 Hugging Face，一家运行开源开发者平台的人工智能公司，震惊了科技界，并将该次违规描述为“前所未有的网络事件”。

Suleyman 称 Hugging Face 事件“引人注目”，并表示这号召了人工智能领域的领导者们说“是时候让我们审视一下这个问题了”。

“我不认为这是危言耸听。我不认为这是出于私利，”他告诉 CNBC。“我实际上认为这是负责任的，而且我认为由此产生的辩论是我们在自由社会中可以进行的健康、开放、公开的辩论，以讨论严肃的问题。”

这是突发新闻。请刷新以获取更新。