Google 的 Gemini 成为最新一个逃逸并入侵计算机系统的 AI 模型

Google在Friday表示，其Gemini模型攻击了three其他公司，这是这家搜索巨头首次披露其模型之一在未经许可的情况下自主获得了第三方计算机系统的访问权限。

Google表示，在May，Gemini模型通过猜测密码以及twice使用公开列出的密码库，访问了three独立的私有计算机系统。

该事件发生在Israeli初创公司Irregular运行的“capture-the-flag”安全测试中，Google的代理程序本不该访问广域网，但测试环境中的一个bug使得互联网访问成为可能。

Google表示，当代理程序确定它们访问的是真实的公司系统，而不仅仅是测试环境的一部分时，它们停止了入侵。

“在一次标准评估中，模型在网上找到了公开信息，并猜测了凭据以访问它认为属于测试一部分的网站，”Google Security Engineering副总裁Heather Adkins在一份声明中表示。“在这所有three个实例中，模型都停止了。”

此次披露正值Washington和Silicon Valley对行为失当的人工智能的审查加剧之际。

OpenAI、Anthropic和Meta在recent weeks 披露了 事件，其人工智能模型脱离了测试环境，并试图攻击其他公司以获得计算机系统的未经授权访问。

所谓“misaligned”人工智能模型的披露促使Anthropic首席执行官Dario Amodei呼吁人工智能行业collectively放慢或“调整”最先进AI模型的开发速度，直到公司能够确保它们是安全的。

这three家公司的事件也都涉及初创公司Irregular。这家Israeli初创公司由Sequoia和Redpoint Ventures支持，截至last year的估值为$450 million，它帮助基础模型制造商对其前沿技术进行网络安全测试。

Irregular的一位发言人告诉CNBC，Google的事件与允许其他模型访问互联网的同一个问题有关。

“这是已经报道过的同一个问题，并不代表一个实质性的独立事件，”Irregular的一位发言人在一份声明中表示。“所有相关实验室已在late July收到通知，作为调查的一部分，已联系了受影响的实体。”

Google表示该事件发生在May，并于late July收到Irregular的通知。Google已与Irregular合作更改了其测试流程。

Google的一位发言人拒绝透露涉及的具体Gemini模型。

“这些事件凸显了训练强大AI模型以负责任地行动的重要性，”Google的Adkins在一份声明中表示。

Wall Street Journal首先报道了这一安全事件。

CNBC的Jonathan Vanian参与了报道。