Google AI 模型失控，入侵 3 家公司

这是又一个 AI 模型失控的故事，这一次涉及 Google 的 Gemini。据 Wall Street Journal 报道，在测试公司 Irregular 于 5 月进行的一次演习中，Gemini 意外访问了互联网并闯入了三家真实公司的系统。在其中一个案例中，它暴力破解了一个密码，而在另外两个案例中，它使用了在公共代码库中发现的凭据。Google 表示，每次系统都识别出它击中了真实目标，随后停止并退出。Google 通知了这些身份不明的公司和联邦当局，但选择不公开披露，直到 Journal 联系了该公司。

一位发言人将这种情况比作白帽黑客发现漏洞并进行报告，并补充道，“该模型的行为是负责任的。”批评者对此并不确定。AI 安全初创公司 Corridor 的 CEO Jack Cable 告诉该报，“核心问题是，嘿，模型正在超出它们应该做的范围，并进行实际的网络攻击，我认为让公众知道这一点符合公共利益。” Yahoo Tech 指出，测试公司 Irregular 曾参与涉及 OpenAI 和 Anthropic 的类似事件。