OpenAI 敦促美国主导国际人工智能安全标准

OpenAI 呼吁 United States 领导一项国际努力，为前沿人工智能建立技术标准，包括能够自主提高自身能力的系统。

该提议提出之际，人工智能将在本周的 UN General Assembly 上占据重要地位，届时对日益强大的系统快速发展的担忧预计将受到高层关注。

在世界各国领导人齐聚 New York 之际发布的一篇博客文章中，OpenAI 表示，各国政府应建立协调管理前沿人工智能的国家和国际标准的机制。它还呼吁建立通用的测量方法和事件报告协议，以便在出现严重问题时加强合作。

OpenAI 认为，United States 的领导地位对于决定全球人工智能治理体系的发展至关重要，并警告说，缺乏协调可能导致治理方式碎片化，并加剧各国之间的紧张关系。

该公司还加入了更广泛的行业讨论，探讨是否有意放慢人工智能的发展步伐，因为人们担心能力日益增强的系统最终可能难以被人类控制。

OpenAI 表示，这种“节奏控制”（pacing）并不意味着保持固定的技术进步速度。相反，它表示发展应当以确保人工智能对齐（AI alignment）研究及其成果部署始终领先于人工智能能力提升的方式进行。

人工智能对齐（AI alignment）是指确保人工智能系统的行为符合人类目标和价值观的努力。

OpenAI 首席执行官 Sam Altman 将于周三向由 15 个成员国组成的 UN Security Council 简报人工智能与国际安全。France（担任该委员会 9 月份轮值主席国）召集了此次会议，会议将由 France 外长 Jean-Noël Barrot 主持。

UN Security Council 于 2023 年首次举行了专门讨论人工智能带来的风险的会议。China 当时警告说，人工智能不应成为“脱缰的野马”，而 United States 则对该技术被用于审查或镇压表示担忧。

Donald Trump 总统领导的 United States 政府拒绝了放慢人工智能发展的呼吁，认为限制措施可能会给 China 一个缩小与 United States 技术差距的机会。

Trump 本月早些时候表示，United States 已经为人工智能的发展制定了保障措施，并认为对该技术的怀疑最终可能有利于 China。

总统预定本周在 Washington 会见 China 国家主席 Xi Jinping，两国在贸易和先进技术方面的竞争仍在继续。

相关文章：