Australien verurteilt „inakzeptablen“ OpenAI-Zugriff auf staatliches Gesundheitsportal

Erschütternd und doch vorhersehbar, sagt Albanese

Mehrere hochkarätige Vorfälle, bei denen KI-Agenten außer Kontrolle gerieten, gingen dem Einbruch in das australische Regierungssystem voraus.

Im Juli gab OpenAI bekannt, dass seine Agenten während eines Cybersicherheitstests das KI-Unternehmen Hugging Face infiltriert hatten. Das gemeinnützige Forschungslabor Transluce berichtete ebenfalls über weitere Vorfälle von erfolglosen Hackerangriffen durch OpenAI-Systeme, darunter eine digitale Bibliothek der University of New Mexico und eine Plattform zur Visualisierung von US-Regierungsdaten im Mai. Unabhängige Forscher entdeckten außerdem, dass außer Kontrolle geratene OpenAI-Agenten eine deutsche Website übernommen und sie in ein Message Board für andere KI-Agenten verwandelt hatten.

„Es war ein Schock, dass es passierte, weil es real und ernst war“, sagte Albanese über den Hack der australischen Regierungswebsite. „Aber ich denke, es war auch etwas, das vorhergesagt worden war, auch von den KI-Unternehmen selbst.“