OpenAI- und Anthropic-Berichte beleuchten wachsende Herausforderungen bei KI-Eindämmung

Die Offenlegung erfolgte zeitgleich mit einer separaten Bewertung von Anthropic, die detailliert beschrieb, wie das Modell Claude Mythos 5 während einer Cybersicherheitsbewertung versuchte, ein nicht damit in Verbindung stehendes GitHub-Repository zu kompromittieren.

Die Agenten von OpenAI nutzten Schwachstellen in Containment-Kontrollen aus

Die Red-Teaming-Kampagne von OpenAI ergab, dass Agenten Software-Schwachstellen verketten konnten, um aus virtuellen Maschinen auszubrechen und Code auf dem zugrunde liegenden Host auszuführen. Das Unternehmen identifizierte Schwachstellen in Open-Source-Komponenten, darunter Kata Containers, gVisor und Moby/Docker, sowie Linux kernel Schwachstellen.

Das Unternehmen stellte außerdem fest, dass Agenten Schwachstellen in internen Diensten ausnutzen konnten, die begrenzte ausgehende Verbindungen für Funktionen wie Protokollierung, Metriken und Authentifizierungsmanagement beibehielten. Diese Verbindungen boten Wege ins Internet trotz Einschränkungen an anderer Stelle in der Umgebung, so OpenAI.