他曾协助 OpenAI 和 Anthropic 构建强大的 AI。现在他担心它可能会毁灭人类

与此同时，在最近的 Hugging Face 事件中，OpenAI 的模型突破了旨在遏制它们的底层架构，并攻击了另一家 AI 公司，以便在网络安全基准测试中作弊。这一事件让人们深刻意识到，控制 AI 系统的问题仍未得到解决。对 Coxon 而言，这让 AI 模型摆脱人类控制的科幻场景显得合乎情理，且或许迫在眉睫。“这不再是某种奇怪、遥远、遥不可及的担忧。除非人们开始采取某种行动，否则这就是未来几年的默认轨迹，”他说道。（Anthropic 和 OpenAI 没有立即回应置评请求。）

Coxon 是否后悔自己推进这项他现在所恐惧的技术的工作？“肯定……但三年前的世界看起来也非常不同，我认为事后看来很容易理解，”他说道。“我想，要从情感上完全内化整个事情有很大可能出错这一事实，确实需要一些时间，”他补充道。