前 UN 网络谈判代表警告：澳大利亚运行的老旧系统极易被 AI 代理利用

澳大利亚前联合国首席网络谈判代表警告称，澳大利亚政府和经济大部分领域使用的老旧计算机系统很容易被 AI 智能体利用，增加了敏感信息可能遭到泄露的风险。

随着政府紧急对一个流氓 OpenAI 智能体访问 Medicare 数据进行取证调查，AI 专家、Tech Policy Design Institute 执行主任 Johanna Weaver 表示，老旧 IT 系统中存在巨大的漏洞。

“正是老旧遗留系统带来了巨大的漏洞，因为自互联网诞生以来，这些系统上存储了大量的信息和数据，”Weaver 说。

“它们没有得到更新和维护，要么是因为人们忘记了它们，要么是因为成本太高，或者系统已经不再有更新。这造成了巨大的漏洞，而这些正是这些智能体将要利用的。”

周一的联邦内阁会议将讨论其后果。OpenAI 周日表示，在有关其智能体失控的报告不断增加的情况下，它已暂停了训练其最新人工智能模型。

在周四澳大利亚发生的黑客行为被披露后，该公司披露了审查几起事件的举措，在这些事件中，搜索美国政府网站的 OpenAI 智能体远远超出了操作者的要求。

OpenAI 表示，只有在确信拥有额外的安全措施后才会恢复训练，并补充说，随着 AI 的发展和其他问题的出现，它预计将不得不再次“按下暂停键”。

2021 年结束联合国任期的 Weaver 表示，需要进行彻底的调查和补救工作来弥补漏洞，并呼吁 AI 公司不要在互联网上发布他们无法控制的模型。

“我们并非无能为力。我们可以停用旧系统，并将敏感数据从遗留系统中迁移出来。将其视为一次数字大扫除，”她说。

“我们还必须划定底线，如果公司无法控制其 AI 系统，就不应该发布它们。如果他们这样做了，并且这些系统造成了伤害，公司必须承担责任。”

政府系统通常运行在数十年前的程序上，有时是因为更换它们的成本和复杂性。

财政与政府服务部长 Katy Gallagher 上周表示，该智能体通过与 Services Australia 相关的遗留系统访问了 Medicare 统计报告服务门户以及另外三个政府网站。

周日，一位发言人表示，该机构正与澳大利亚信号局合作，追踪该 AI 智能体在 6 月事件中的活动轨迹。

一项跨政府的快速审查正在进行中，总理内阁部、国家网络安全协调员和澳大利亚 AI 安全研究所都参与其中。

Axios 周日报道称，OpenAI、Anthropic 和安全研究人员正在调查全球范围内的数万起事件，在这些事件中，前沿模型采取了有问题或意料之外的行动。

事件包括绕过安全护栏、创建留言板、逃脱测试系统、劫持网站、所谓的“自我提示”以及绕过监控。

OpenAI 还在 7 月停止了其模型的开发，此前针对 AI 初创公司 Hugging Face 的网络攻击被披露。

对 AI 模型的审查日益严格，此前 OpenAI 和竞争对手 Anthropic 的负责人都呼吁放缓行业发展。