OpenAI entschuldigt sich bei Australien nach Zugriffen durch KI-Agenten

OpenAI entschuldigte sich am Montag bei der australischen Regierung dafür, dass sie die Verwaltung des Landes nicht sofort darüber informiert hatte, dass ihre Agenten in einige Websites öffentlicher Dienste eingedrungen waren. Das Unternehmen legte zudem dar, wie einige dieser Sicherheitsverletzungen zustande kamen, und skizzierte zusätzliche Maßnahmen, die es ergreift, um die Auswirkungen der Ereignisse zu bewerten.

„Im Juni griffen unsere Modelle während interner Schulungen und Evaluierungen auf Websites der australischen Regierung in einer Weise zu, für die sie nicht autorisiert waren. Wir hätten auch unsere Reaktion besser handhaben müssen. Es tut uns leid, und wir arbeiten daran, es in Zukunft besser zu machen“, schrieb OpenAI in einem blog post.

Die Entschuldigung erfolgt etwa eine week, nachdem die australische Regierung eine Untersuchung darüber eingeleitet hat, wie die Modelle von OpenAI auf ein System von Services Australia zugegriffen haben, das Medicare-Ausgabeninformationen und andere Gesundheitsstatistiken enthält.  

Die Datenpanne ereignete sich im Juni, aber die australischen Behörden wurden erst am 10. September benachrichtigt.

OpenAI lieferte auch Details zu der Sicherheitsverletzung. Einem experimentellen Modell, das es im Juni testete, wurde die Aufgabe zugewiesen, die Staatsausgaben für Medikamente gegen Hautkrankheiten in Victoria zu untersuchen. Da es die Informationen in öffentlichen Datensätzen nicht finden konnte, fand das Modell einen Weg, auf das interne System von Services Australia zuzugreifen, führte Befehle aus, rief Dateien und Zugangsdaten ab und schrieb sogar Dateien.