强如英王也对AI心存疑虑

查尔斯国王周四主持了一场私人峰会，与人工智能（AI）领域和英国政府的一些最知名人士，包括 Nvidia 的 Jensen Huang、OpenAI 和 Anthropic 的领导层、英国新任 AI 部长 Kanishka Narayan，甚至还有英国国外情报机构的负责人。为教皇提供 AI 建议的 Paolo Benanti 也在场。

国王在峰会上的讲话——峰会在 18 世纪的艾尔郡庄园邓弗里斯大宅（Dumfries House）举行，该庄园归查尔斯国王的慈善基金会所有——值得关注，因为出于宪法原因，王室通常对深入探讨政治问题持谨慎态度，而 AI 正是目前全球最受关注的热点问题之一。国王敦促房间里的领导者们在“为时已晚之前”找到控制 AI 的方法，并补充说，这项技术的快速发展及其“实质”既“令人着迷又深感忧虑”。

“AI 已经展现出改善和拯救生命的巨大能力，”他引用医学和科学为例说道。“然而，这些技术的创造者现在正越来越多地发出警告，称 AI 有可能发展出更阴暗的能力，甚至可能夺走生命。”这段话发表在 Anthropic 的一名研究人员辞职几天后，该研究人员在网上写道，AI 公司正在“竞相制造比任何人类都聪明得多的机器”，而人类“可能无法在这场竞争中幸存”。

国王继续说道，迫切需要妥善考虑如果这项技术落入坏人之手并以“潜在灾难性的方式”使用，将会产生什么样的“生存危险”。

“难道我们不需要在一切都太迟之前拥有足够的控制手段吗？”他说道。在查尔斯国王结束演讲时，他敦促领导者们找到一种方法来利用 AI 的益处，并建立国际合作与共识来实现这一目标。（此前 Anthropic 将其 Fable 和 Mythos 模型的访问权限仅限于美国客户，震惊了欧洲科技界，并让许多人开始思考 AI 主权的概念。）

“你们面前的任务不仅是推进技术，还要确保它坚定地服务于人类、社区和自然世界，”他在结束演讲时说道。“当我们拥抱新事物时，绝不能失去那些永恒的东西。”

据媒体报道，他在现场停留了大约 20 分钟，留给宾客们自行讨论这些事务。为了参加国王的峰会，OpenAI 派出了其首席财务官 Sarah Friar，而 Anthropic 派出了负责全球事务的 Tino Cuéllar。在接受置评请求时，Cuéllar 表示公司很荣幸能参与讨论，并感谢国王“召集行业领袖和来自社会各界的声音，共同讨论 AI 在服务公共利益方面的作用”。

这已经不是查尔斯国王第一次谈论 AI 的挑战与机遇了，他在 2023 年和 2024 年都曾谈及。然而，由于 AI 继续主导着每一个行业、话题和对话形式，这次峰会显得尤为及时。本月，OpenAI 的 Sam Altman、Elon Musk 和 Anthropic 的 Dario Amodei 呼吁减缓 AI 发展的速度，但 Nvidia 的 Huang 和总统 Donald Trump 迅速拒绝了这些呼吁。“我们在 AI 领域领先中国，”总统说。“我们是世界上最先进的国家，坦率地说，我想保持这种状态，因为谁赢得了 AI，谁就赢得了胜利。”

这表明随着大型科技公司、政治和社会利益的碰撞，问题变得多么复杂。在过去的一年里，OpenAI 和 Anthropic 都曾放出重磅 IPO 的风声，尽管 OpenAI 最近表示，由于对 AI 安全的担忧依然存在，其今年的 IPO 计划已经停滞。