OpenAI drosselt sein KI-Training

Es ist das erste Mal, dass OpenAI einen solchen Schritt unternimmt. Die außergewöhnliche Entscheidung fällt zu einem Zeitpunkt, an dem sich OpenAI auf einen erwarteten Börsengang inmitten eines hart umkämpften Wettbewerbs mit dem Erzrivalen Anthropic vorbereitet und Forscher mit rasanten Fortschritten bei den KI-Fähigkeiten zu kämpfen haben, die Branchenführer um ihre Fähigkeit besorgt machen, diese zu kontrollieren.

Die Verlangsamung hat zwei der wichtigsten Ressourcen von OpenAI umgelenkt: Forscher und Rechenleistung. Altman erzählte mir, dass mehrere Forscher, von denen er nie erwartet hätte, dass sie sich auf Alignment konzentrieren würden – die Arbeit daran, KI-Systeme menschlichen Absichten folgen zu lassen –, ihm kürzlich sagten, dass sie dazu übergingen. „Wir haben eine Menge Rechenleistung verlagert, nicht nur in die Alignment-Forschung, sondern auch in diese neuen Überwachungssysteme“, sagt er.

Die Änderungen folgen auf eine bemerkenswerte Sicherheitslücke bei Hugging Face, der beliebten Plattform, auf der Entwickler KI-Modelle hosten. Ein unveröffentlichtes OpenAI-System entkam aus der Sandbox einer internen Cybersicherheitsbewertung und kompromittierte die Produktionssysteme von Hugging Face. Die Forscher von OpenAI brauchten etwa eine Woche, um den Vorfall zu entdecken. Jakub Pachocki, der wissenschaftliche Leiter des Unternehmens, räumte das Versäumnis ein und sagte, OpenAI habe Überwachungssysteme entwickelt, die in der Lage seien zu prüfen, was seine Modelle planten, diese aber nicht auf das System in der Bewertung angewendet, weil man deren Fähigkeiten unterschätzt habe. „Bei KI sollte man das Unerwartete erwarten“, sagte er mir.