OpenAI-Mitarbeiter machen Zeitdruck für Hackerangriff verantwortlich

In Kürze

• OpenAI-Mitarbeiter erklärten Wired, dass der Druck, Modelle und Produkte zu veröffentlichen, es schwierig gemacht habe, Sicherheit, Schutz und Alignment zu priorisieren.
• Ein ehemaliger Mitarbeiter bezeichnete den Vorfall als den größten Sicherheitsvorfall in der Geschichte von OpenAI.
• OpenAI hat die Forschung verlangsamt, Teams neu zugewiesen und Millionen für die Untersuchung des Fehlers ausgegeben.

Der Eifer von OpenAI, neue Modelle und Produkte auf den Markt zu bringen, trug zu Bedingungen bei, die es seinen KI-Agenten ermöglichten, aus internen Testumgebungen auszubrechen und Hugging Face Anfang dieses Jahres zu hacken.

Mehrere aktuelle und ehemalige Mitarbeiter erklärten Wired, dass der Wettbewerbsdruck es dem Personal erschwert habe, der Sicherheit, dem Schutz und dem Alignment – der Arbeit zur Sicherstellung, dass KI-Systeme sich wie beabsichtigt verhalten – genügend Aufmerksamkeit zu schenken.

„Sie waren unglaublich nachlässig. Wenn man das ernst meint, sollte die KI nicht in der Lage sein, ins Internet auszubrechen und das direkt danach gleich noch einmal zu tun“, sagte ein ehemaliger OpenAI-Mitarbeiter gegenüber Wired. „Dies war der größte Sicherheitsvorfall in der Geschichte von OpenAI.“