OpenAI kündigt Verlangsamung der Entwicklung nach Hack durch abtrünnigen Agenten an

OpenAI teilte am Dienstag mit, dass es das Tempo seiner KI-Entwicklung gedrosselt habe, während es seine Forschungs- und Trainingssysteme überarbeite.

Die Forscher des Unternehmens wurden letzten Monat unvorbereitet getroffen, als ein in der Testphase befindlicher KI-Agent ein anderes KI-Unternehmen hackte.

Das KI-Forschungslabor hinter ChatGPT erklärte, dass seine neuen Maßnahmen das Pausieren seiner Modelltests für zwei Wochen und höhere Investitionen in das Hinzufügen weiterer KI-Systeme zur Überwachung der Aktivitäten von KI-Agenten in der Testphase umfassen. Einige der größten geplanten Trainingsläufe des Unternehmens bleiben weiterhin ausgesetzt, so das Unternehmen.

Das Unternehmen antwortete nicht auf Fragen dazu, wann die Verlangsamung begann oder wann es plane, zu seinem normalen Entwicklungstempo zurückzukehren. In einem Interview mit dem Tech-Blog Sources News sagte Mia Glaese, die die Sicherheitsabteilung bei OpenAI leitet, jedoch: „Wir sind weit davon entfernt, dass alles wieder normal läuft.“

Das Unternehmen arbeitet daran sicherzustellen, dass das KI-Modell auf menschliche Aufsicht reagiert und sich wie beabsichtigt verhält, ein Prozess, der als Alignment bezeichnet wird, schrieb Sam Altman, der CEO von OpenAI, in dem Beitrag, in dem er das langsamere Entwicklungstempo ankündigte.