CalPERS 董事会对 AI 末日表示担忧，尽管该养老基金正获益于科技投资的高涨

内容提要

Anthropic研究人员因担心人工智能公司“拿我们的生命做赌注”而辞职，这引发了加州最大的养老基金对该技术风险的讨论。

加州养老基金今年表现良好，很大程度上归功于依然繁荣的股市和人工智能公司天文数字般的估值。

但在本周加州公职人员退休系统（California Public Employees’ Retirement System）的董事会会议上，出现了一个令人不安的问题：如果这项新技术导致灾难怎么办？

“这关乎全人类，”董事会主席Theresa Taylor周一在与CalPERS首席投资官Stephen Gilmore讨论时表示。

Taylor的发言集中在Anthropic研究人员Jacob Coxon的公开辞职上。Coxon在社交媒体上写道，领先的AI公司可能会在2030年底前危害人类生命。

Coxon此前曾在OpenAI工作。他写道，Anthropic和OpenAI在竞相开发超级智能的过程中正在“拿我们的生命做赌注”。

在Coxon发表声明后，Anthropic首席执行官Dario Amodei和OpenAI首席执行官Sam Altman呼吁放缓AI研究。

Taylor是一位退休的州政府工作人员，曾任公职人员工会领袖，她敦促CalPERS董事会的同事考虑发表一份公开声明，呼吁为AI发展建立新的护栏或暂停其开发。

董事会有义务优先考虑养老基金的财务状况。她辩称，发表一份关于AI担忧的声明是恰当的，因为，“如果因为AI我们不再有退休人员，不再有州政府工作人员，那我们就没有养老基金了。”

CalPERS拥有价值$655 billion的资产，是全球最大的养老基金之一。

董事会本周并未发表声明，也未调整其AI投资。Gilmore表示，对于AI可能发生的情况，未来有着“非常广泛的可能结果分布”。

Taylor回答说：“我们在等待回报，但不幸的是，结果可能会完全不同。”

阅读下文