联合国安理会将听取开发 AI 的科技巨头关于 AI 风险的建议

简报

• Anthropic、OpenAI、DeepSeek 和 Moonshot 均定于周三就 AI 风险向联合国安理会发表讲话。
• 此次简报会是在 Anthropic 首席执行官 Dario Amodei 呼吁放缓 AI 发展并敦促美国继续对中国实施芯片出口限制之后举行的。
• 会议选在特朗普总统 9 月 24 日与习近平举行峰会的两天前举行。

联合国安理会将在周三下午听取那些构建了令其最为担忧的技术的人员的陈述。

OpenAI 首席执行官 Sam Altman、Anthropic 首席执行官 Dario Amodei、AI 安全研究员 Yoshua Bengio 以及 Hugging Face 首席执行官 Clément Delangue 均计划向由 15 个成员国组成的安理会（拥有授权制裁和军事行动权力的联合国机构）通报人工智能带来的风险。

DeepSeek 也受邀参加。这家中国初创公司在 2025 年 1 月发布一款廉价模型后，使 Nvidia 的市值缩水了约 $600 billion。它已被要求与另一家中国公司 Moonshot（Kimi 模型的开发商）一起发表声明。

法国组织了周三的会议，并担任本月安理会的轮值主席国。外交部长 Jean-Noël Barrot 将主持会议，据报道，会议背后的概念文件重点关注 AI 系统脱离人类控制的问题。

预计同样的简报会还将涉及最终可能在没有人员参与的情况下发动网络攻击、左右选举或设计武器的 AI，这就是为什么本周一个为战争和制裁而设立的委员会正在听取技术首席执行官而非将军们意见的原因。

Amodei 将远程参加，而不是亲身出席。9 月 12 日，他发表了一篇名为 “We Must Pace the Frontier” 的文章，认为该行业应刻意放慢构建更强大前沿模型（任何实验室发布的最庞大、最先进的 AI 系统）的速度。他表示，Anthropic 将向外部评估人员提供永久的员工级访问权限，以检查其安全承诺。Sam Altman 和 Elon Musk 都在数小时内表示赞同。

Amodei 称中国是“迄今为止拥有最先进 AI 能力的专制国家”，并认为美国应继续限制向北京出口先进芯片，同时要求北京就全球安全规则进行合作。中国外交部称这篇文章适得其反，官方媒体则将其冠以旨在遏制中国的“冷战剧本”。

与此同时，唐纳德·特朗普总统不想参与放缓推动。在 Amodei 的文章发表后，总统称 AI 接管的警告是与“激进左派”有关的“骗局”，并在没有提供证据的情况下直接指责 Amodei 存在不当行为。

几天后，查尔斯国王在他的苏格兰庄园接见了来自 Anthropic、OpenAI、Nvidia 和 Google DeepMind 的高管，参加了一场 AI 安全峰会，会议达成了对话，但没有产生公开已知的协议。

周三的会议也不太可能产生具有约束力的协议。它发生在 9 月 24 日特朗普在华盛顿与中国国家主席习近平会晤的两天前，据报道，在那次峰会 上，AI 安全与贸易共同列入了议程。

每日简报通讯

每天从当下的顶级新闻报道开始，外加原创专题、播客、视频等。