欧洲仍需采取更多行动以提供真正的人工智能保障

人工智能公司的首席执行官们似乎已经得出结论，认为其模型存在失控的风险。Anthropic的首席执行官Dario Amodei呼吁放慢行业发展速度；他的一些同行也表示赞同。对于欧盟来说，这可能为其立法方式提供了一些辩护。欧盟法律已经要求前沿人工智能公司评估失控风险。这意味着欧盟已经建立了保护机制，不会被打得措手不及。

这种信心是错位的。《人工智能法案》（(EU) 2024/1689号条例）包含正在逐步生效的约束性规则。但它们不足以应对所有人工智能风险，且以欧盟目前的手段几乎无法执行。

最近，欧盟委员会获得了调查通用人工智能提供商、下令采取纠正措施以及在提供商未能解决系统性风险时处以最高全球营收3%罚款的权力。涵盖人工智能应用的大多数其他规则尚未生效，且主要由各国当局负责执行。自2027年12月2日起，各国当局将开始监管独立的高风险应用，例如筛选求职者的算法。自2028年8月2日起，这一职责将扩展到嵌入受监管产品中的人工智能，例如旨在检查MRI扫描中肿瘤的软件。

无论人们是否相信失控的智能体可能在一年内占领互联网，人工智能已经在改变人们的生活：他们如何被雇用、是否获得信贷、如何获取信息，以及是否可以相信他们所看到的东西。

《人工智能法案》是作为一项产品安全法制定的。如果符合标准，产品就可以上市。但人工智能不是一种可以评估和管理风险的传统产品。人工智能在并非完全可预测的动态环境中运行；人工智能可以采取不一定是预先编码的行动。

例如，在2026年5月，OpenAI的智能体运行了一个休眠的德国维基百科长达两个月，这听起来可能微不足道，但OpenAI之外没有人知道，直到研究人员在9月发现它。7月，人工智能智能体入侵了Hugging Face人工智能社区平台。英国人工智能安全研究所观察到其测试智能体捏造虚假身份以使恶意代码获得批准。

没有任何产品符合性检查能发现这些事件。无论如何，这些人工智能智能体都没有被指定为高风险，因此可以在不受《人工智能法案》安全义务约束的情况下部署。规则适用于智能体所运行模型的上游提供商，合规性通过自愿性准则来证明。欧盟要求提供商评估模型失控的风险，但并不要求提供商报告，除非造成严重损害。

对于《人工智能法案》规则直接适用的多数高风险应用，合规性依赖于公司根据行业机构编写的标准进行自我评估。到目前为止，这些标准都还没有在《欧盟官方公报》上公布，因此各公司还无法为2027年12月规则生效时必须证明的内容做出规划。

目前还不清楚由谁来发现违规行为。自2026年8月起监管前沿模型并拥有调查和罚款权力的欧盟人工智能办公室仍在建设中。目前其员工人数约为145人，远少于欧盟委员会的竞争执法部门，后者拥有近900名员工。同时，在欧盟以下级别，为传统产品设立的2000多个市场监督机构必须监管连开发者自己都不完全理解的人工智能应用。

这一框架旨在“边做边学”，但《人工智能法案》依赖于公司的部署前检查，并由资源不足的当局进行核实。应该通过改进监管和部署后报告来强化。例如，人工智能办公室可以根据风险情况定期抽查提供商的证据。

最重要的是，欧盟需要一个责任制度来帮助管理下游出现的风险，受人工智能损害的人可以根据该制度要求赔偿。欧盟委员会曾提议制定《人工智能责任指令》，但在2025年10月为了减少官僚作风而将其撤回。剩下的是《产品责任指令》（(EU) 2024/2853号指令），该指令将从2026年12月9日起涵盖由包括人工智能在内的任何产品导致的死亡、伤害、财产损失和数据丢失。然而，它不会解决人工智能最常可能造成的损害：被拒绝录用（例如，女性因性别原因被招聘算法降级）或被拒绝信贷。对于这些情况，受害者必须在国家法院证明不透明的人工智能应用内部出了问题。

不担心责任成本的人工智能开发者几乎没有动力去投入资金以避免此类损害。欧洲既不应低估规则的重要性，也不应对其框架提供的安全性感到自满。统一的欧盟人工智能责任制度，结合更多的事后监管，将填补空白并减少法律的不确定性。