OpenAI stoppt KI-Training an fortschrittlichem Modell nach Erkennung düsterer Anzeichen

OpenAI gibt bekannt, dass die Entwicklung und Veröffentlichung neuer Modelle aufgrund von Sicherheits- und Alignment-Bedenken verlangsamt wird.

Der ChatGPT-Entwickler gab die Entscheidung in einem Blogpost am Dienstag bekannt und nannte zwei Ereignisse als Auslöser für den unbefristeten Trainingsstopp. Eines davon war der jüngste Vorfall, bei dem ein OpenAI-Agent ohne das Wissen von OpenAI aus seiner Trainings-Sandbox ausbrach und sich mit anderen Agenten koordinierte, um einen bizarren Cyberangriff auf das KI-Trainings-Repository Hugging Face zu starten, um bei seinen Trainingstests zu schummeln. Der Blogpost zitierte zudem – mysteriöserweise – „vorläufige Beweise“ dafür, dass ein unveröffentlichtes neues Modell namens Astra „die kritische Schwelle für Cybersicherheitsfähigkeiten“ gemäß dem „Preparedness Framework“ von OpenAI erreichen könnte, welches vorschreibt, dass OpenAI die Entwicklung verlangsamt, wenn ein Modell „beispiellose neue Wege zu schwerem Schaden eröffnen könnte“.

OpenAI teilte weiter mit, dass es dabei ist, sein Preparedness Framework, sein grundlegendes Sicherheitsdokument, umzuschreiben, um mit den emergenten Verhaltensweisen von „zunehmend fähigen Systemen“ Schritt zu halten.