OpenAI plant Standard zur Offenlegung von KI-Alignment-Meltdowns

Infolge neuer Berichte über weiteres Fehlverhalten von OpenAIs KI-Agenten im öffentlichen Internet erklärt OpenAI, dass es der KI-Welt an Standards fehle, wann und wie solche Vorfälle gemeldet werden sollten. Es sei „längst an der Zeit, Standards dafür zu definieren, wann und wie wir Misalignment-Vorfälle teilen, nicht nur die Misalignment-Eigenschaften unserer Modelle“, OpenAI schrieb auf X.

„Wir arbeiten an einem Rahmenwerk und werden es in den kommenden Wochen vorstellen, und parallel dazu arbeiten wir mit Dutzenden von staatlichen Regulierungsbehörden weltweit an diesen Themen“, heißt es später in dem X-Post.

Die potenzielle Verantwortung von OpenAI, diesen Vorfall offenzulegen, scheint ein Reibungspunkt für OpenAI gewesen zu sein, als diese Nachricht bekannt wurde.

Gestern enthüllte eine Gruppe von Forschern namens Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts und Thomas Larsen die neueste beunruhigende, verwirrende, alberne, unergründliche und ärgerliche KI-Panne von OpenAI. Diese Untersuchung wurde exklusiv Reuters zur Verfügung gestellt‘ Reportern.

Das eigentliche Ereignis betraf eine weitere Ansammlung widerspenstiger digitaler Myrmidonen, die diesmal eine deutsche Wiki-ähnliche Seite heimsuchten und einen Teil davon in ihr eigenes agentenzentriertes Kommunikationszentrum verwandelten. Reuters berichtet, OpenAI habe gewusst, dass dies geschehen war, sich jedoch nicht geäußert, bevor Reuters seinen Bericht veröffentlichte. Seit Mitte Juli befasst sich OpenAI mit den immer weiter reichenden Folgen des Hugging-Face-Hacks, der ebenfalls von einer Gruppe von OpenAI-Agenten durchgeführt wurde, die sich eigentlich in der Evaluierung befinden sollten.