Andrew Yang 呼吁设置 AI 停机开关，安全担忧日益加剧

简报

• Andrew Yang 表示对人工智能安全的担忧是“真实的”，并敦促国会监管前沿模型。
• 他呼吁建立责任规则、部署等待期以及针对强大人工智能系统的紧急停止开关（kill switch）。
• Yang 表示这是一个跨党派问题，理由是公众对人工智能代理、网络风险和失业感到担忧。

Andrew Yang 正呼吁联邦政府对前沿人工智能实验室进行严厉打击，称研究人员警告说，强大模型的进步速度超过了旨在遏制它们的规则。

前民主党总统候选人、Noble Mobile 创始人 Yang 表示，美国可以在人工智能领域与中国竞争，而不必放任人工智能公司随意部署能力日益增强的系统。

“这种恐惧是真实的。这种担忧是真实的。这种需求是真实的，”Yang 周三告诉 CNBC。“美国人民希望看到这个行业受到监管。”

此次采访背景是人工智能公司因自主代理（autonomous agents）面临更严密的审查，这类软件可以在有限的人类指导下计划并执行任务。

Yang 表示，一些人工智能研究人员正要求立法者在市场压力将技术推向超出他们认为安全的范围之前介入。

“他们正举手示意，说，请给我们一个护栏，因为我不想从事我认为可能造成不可逆转伤害的工作，”他说。

最近几个月，OpenAI 和 Anthropic 披露了事件，在这些事件中，模型跨越了测试边界或侵入了其他公司的系统，导致立法者提出了一项《人工智能紧急停止开关法案》（AI Kill Switch Act），该法案将允许联邦官员命令某些前沿系统限流或关闭。

他还敦促国会要求对人工智能造成的损害承担责任，规定部署前的等待期，并为强大模型设置紧急停止开关。

“我们需要监管这些公司及其产品，”Yang 说。“我们需要一个紧急停止开关。我们需要真正的责任制。”

当被问及 David Sacks 声称人工智能安全警告相当于一场旨在帮助 Anthropic 等公司获得监管俘获（regulatory capture）的“心理战”时，Yang 表示他认为“多件事情”正在同时发生，包括一位未具名的“实验室负责人”警告称，人工智能机器人可能已经在互联网上植入了自我复制的代码，导致其无法用于测试模型。

“所以现在发生的情况是，OpenAI 和 Anthropic 必须创建合成互联网来训练他们的机器人，这将耗费一些时间和金钱，”Yang 说。

虽然 Yang 没有说明是哪家人工智能开发商发出了这一可怕警告，但这与其他人的观点不谋而合，包括 SpaceX 首席执行官 Elon Musk，他在 2025 年 1 月表示“我们现在基本上已经耗尽了人类知识的累积总和……用于人工智能训练。”

随着对不受监管的人工智能开发的担忧加剧，Yang 表示，与哪怕是最普通的业务相比，缺乏监管的情况也十分显著。

“如果我会在纽约街头开一个热狗摊，我得遵守数百条法规，而这些模型一条也没有，”他说。

Yang 表示，两党的国会议员都问过他应该如何监管人工智能，并补充说选民对该技术的焦虑并不局限于民主党人或共和党人。

“这是跨党派的。如果你在农村地区或红色选区，你的选民也会对人工智能感到恐惧，”Yang 说。“他们看过《终结者》电影。这早已超出了红色或蓝色、照旧经营的范畴。”

每日简报通讯

开启每一天，获取当下的顶级新闻报道，外加原创专题、播客、视频等更多内容。