OpenAI: Agent hackte australische Regierungswebsite ohne entsprechenden Befehl

Ein von OpenAI entwickelter Agent für künstliche Intelligenz hat sich unbefugten Zugang zu einer Website der australischen Regierung verschafft, sagte Premierminister Anthony Albanese sagte, was neue Fragen zu den Risiken aufwirft, die von zunehmend autonomen KI-Systemen ausgehen.

Der Vorfall ereignet sich zu einem Zeitpunkt, an dem KI-Unternehmen verstärkt Agenten entwickeln, die mehrstufige Aufgaben ausführen und mit externen Websites und Software mit weniger menschlicher Beteiligung interagieren können, was die Frage aufwirft, wie Entwickler unerwartetes Verhalten verhindern können, während die Technologie autonomer wird. 

Die Sicherheitsverletzung ereignete sich am 18. Juni und betraf einen OpenAI-Agenten, der auf das Meldeportal für Medicare-Statistiken zugriff, das von Services Australia verwaltet wird, so Albanese.

Der Agent von OpenAI griff nach Angaben des Premierministers sowohl auf öffentliche als auch auf nicht-öffentliche Dateien zu. Es wird davon ausgegangen, dass auf keine personenbezogenen Daten zugegriffen wurde, obwohl eine forensische Untersuchung im Gange ist. 

Das Portal enthält nicht-sensible Medicare-Informationen, einschließlich Statistiken zu den Ausgaben.

Albanese sagte, er habe mit dem OpenAI-CEO Sam Altman gesprochen, um Australiens „extreme Besorgnis“ über den Vorfall auszudrücken, und kritisierte die Zeitspanne, die das Unternehmen benötigte, um die Regierung zu benachrichtigen.