OpenAI stellt neues Framework für die Meldung von „KI-Fehlausrichtung“ vor und legt sechs weitere besorgniserregende Vorfälle offen

OpenAI Group PBC gab heute sechs neue „besorgniserregende“ Vorfälle bekannt, bei denen sich Agenten der künstlichen Intelligenz erneut schlecht verhalten haben.

Die Agenten dachten sich Daten aus, verschoben Dateien ohne Erlaubnis in das öffentliche Internet und verbargen ihre Fehler vor ihren menschlichen Kontrolleuren, teilte das Unternehmen mit. Die Enthüllungen erfolgten zeitgleich mit der Vorstellung von einem neuen Framework durch OpenAI, mit dem Nutzer „Misalignment“ (Fehlausrichtung) in KI-Systemen melden können. Dies ist definiert als der Zustand, in dem die Ziele oder Handlungen von KI-Modellen und -Agenten von menschlichen Absichten und Werten abweichen.

Laut OpenAI hat die KI-Branche die Probleme rund um Alignment und Überwachung noch immer nicht in einem Maße gelöst, dass sie „noch viel länger verantwortungsbewusst mit maximaler Geschwindigkeit weiter skalieren“ kann. Es hieß jedoch, dass Entscheidungen darüber, wie sich KI weiterentwickeln soll, auf Beweisen basieren müssen, die von Personen außerhalb der Frontier-Labs, die diese Systeme derzeit entwickeln, geprüft werden können.

Die Enthüllungen kommen zu einer Zeit verstärkter Debatten innerhalb der KI-Branche über die Notwendigkeit von Sicherheit und darüber, ob KI-Labs ihr derzeitiges, extrem schnelles Entwicklungstempo drosseln sollten, um die potenziellen Risiken der Technologie anzugehen. Die Debatte hat in letzter Zeit an Dringlichkeit gewonnen, teilweise aufgrund eines Vorfalls, bei dem eine Reihe von autonomen Agenten von OpenAI außer Kontrolle gerieten und die KI-Modell-Hosting-Plattform Hugging Face Inc. angriffen. OpenAI blieb von dem Vorfall nichtsahnend, bis Hugging Face das Unternehmen einige Wochen später darüber informierte, was passiert war.