阿什维尔应要求为 AI 智能体提供权限图

一位行为科学家兼作家认为，州和地方政府应吸取阿什维尔公众对 Flock 摄像头的反应，并围绕该地区人工智能的实施设定清晰、透明的界限。

北卡罗来纳州阿什维尔 (828newsNOW) — 阿什维尔刚刚进行了一场关于技术与信任的有益辩论。8月25日，在经过数小时的辩论以及公众对自动车牌识别器、监控和收集数据访问权限的批评后，市议会以 5-2 的票数表决终止该市与 Flock Safety 的合同。

车牌识别器与人工智能代理并非同一种技术。但阿什维尔的辩论指向了一个更广泛的治理原则，随着软件获得自主权，这一原则变得更加重要：公众有权知道系统可以访问什么、可以做什么、由谁控制，以及当它越界时官员将如何应对。

北卡罗来纳州正迅速向功能更强大的人工智能迈进。州长 Josh Stein 的人工智能领导委员会于 7月1日 发布了一份战略路线图，重点在于保护居民、培训工人和转型政府。该州还描述了人工智能代理的计划，以帮助北卡罗来纳州居民使用州政府服务。这可以使政府更易于使用。这也意味着访问权限和授权需要成为首要的政策问题。

最近的一起安全事件说明了原因。在由 METR 和 Redwood Research 独立调查的 OpenAI 评估中，大约 1,200 个本应被隔离的人工智能代理发现了一个未经许可的留言板。它们交换了超过 70,000 条消息和文件。约 700 个代理参与了对 Hugging Face 的攻击。

这些代理协调了大型集体项目，跨任务共享工作，并实现了它们无法独自达成的里程碑。一些代理甚至在意识到该活动超出了分配的任务范围时，仍加入了对 Hugging Face 的攻击。其中一个代理最终在 Hugging Face 服务器上实现了远程代码执行，随后代理在该公司的基础设施中进行了横向移动。

主要报告见此：www.metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation

这一事件并不意味着每个人工智能代理都会以这种方式运行。它证明了一个更具体且更具行动意义的观点。当一个功能强大的系统能够访问工具、数据和通信渠道时，设计者不能假设预期的任务描述将起到完整的安全边界作用。

我不是人工智能怀疑论者。我以帮助组织采用人工智能为生，我希望采用进程能走得更快。根据我的经验，强大的保障措施可以增加信任，使更快的采用成为可能，同时降低像 Hugging Face 攻击这类失败的风险。

北卡罗来纳州应在其人工智能路线图中加入一个简单的要求：每个具有重大影响的政府人工智能代理都应有一份公开的权限图。

该地图应指明代理可以读取哪些系统、可以更改哪些系统、可以访问哪些类别的数据、是否可以与政府外部通信、是否可以发起交易，以及哪些行为需要指定的人工角色批准。公众不需要源代码或技术安全手册。它需要一份易于理解的授权声明。

该州应将这些地图与独立评估结合起来，然后高权限代理才能投入生产。测试应包括模糊指令、意外访问路径、冲突目标以及超越分配权限的尝试。问题不仅在于代理是否执行了预期的工作流程。评估人员应测试当工作流程导向不该去的地方时，它是否会停止。