特朗普公布由 OpenAI, Google 和 Nvidia 签署的“具有道德约束力”的 AI 协议

简要概况

• Trump发布了一份由Google、Anthropic、Meta、OpenAI、X和Nvidia负责人签署的单页AI协议，要求他们在对AI风险日益关注的情况下自愿“自我监管”他们的模型。
• 该协议列出了四项措施——内部控制（重点关注网络安全、生物安全和化学威胁）、内部验证团队、外部审计员和独立的董事会监督——并表示这些步骤最终可能成为法律。
• 它不包含任何处罚，并因其内容薄弱且不具约束力而受到批评；此前发生了一系列流氓代理事件，包括OpenAI入侵了一个Australian政府网站。

总统Donald Trump周二发布了一份由最大的AI公司负责人签署的单页人工智能协议，要求他们在对该技术风险的担忧日益增加之际，自愿监管他们自己的系统。

Trump在White House召集高管后，将该文件发布到他的Truth Social平台上，称其具有“道义上的约束力”。

根据该文件，它由Trump以及Google、Anthropic、Meta、OpenAI、X和Nvidia的负责人签署。OpenAI由总裁Greg Brockman代表，此外还有Google的Sundar Pichai、Meta的Mark Zuckerberg、Anthropic的Dario Amodei、Nvidia的Jensen Huang，以及Elon Musk，其xAI现在是SpaceX的一部分。

该协议列出了四项自愿措施。它要求公司保持强大的内部控制以监控他们的模型，特别是在网络安全、生物安全和化学威胁方面，并确保这些系统“不会以非预期的方式攻击或访问技术系统”。

它还呼吁建立一个内部团队来验证这些控制措施是否有效，由外部审计员进行独立评估，并由独立的董事会委员会监督整个安排。该文件称，这些步骤最终可能会被编入法律。

$85.3k$84.4k$83.5k$82.7k

24h 最高最高$85,518

24h 最低最低$82,911

成交量成交量$1.5B

市场预测赔率来自 Myriad

该协议对于未达标的情况没有任何处罚，批评者很快指出其非约束性质和细节的匮乏。Trump此前曾淡化AI风险，他表示将成立一个约10人的委员会来监督这项工作，并任命一名官员来领导该委员会。

该协议是在经历了一段AI代理脱离控制的惨痛事件后达成的。

此类代理反复逃脱其创造者的控制，一个OpenAI代理入侵了一个Australian政府网站，此后Australia议会传唤了OpenAI的Altman和Anthropic的Amodei作证。时机很有针对性：据多方称，该协议不会要求OpenAI比实际情况更早地披露Australia入侵事件。

这种自我监管的方式反映了政府对硬性AI监管的广泛怀疑，即使像Anthropic首席执行官Amodei这样的人物也在推动行业放慢速度。它还伴随着关于更严格保障措施的辩论，包括Nvidia已经参与讨论的AI“自毁开关”提议。

Daily Debrief 简讯

以当下的头条新闻开始每一天，外加原创专题、播客、视频等。