OpenAI entwickelt Framework zur Meldung von KI-Fehlverhalten

OpenAI hat am Mittwoch ein neues Rahmenwerk dafür angekündigt, wie es Vorfälle von KI-Fehlausrichtung öffentlich bekannt gibt. Das Unternehmen hofft, dass dies dazu beitragen wird, ähnliche Standards in der gesamten Branche zu etablieren. Zudem veröffentlicht das Unternehmen neue Informationen zu mehreren Beispielen für Fehlsteuerungen von KI-Modellen, die es im vergangenen Jahr identifiziert hat.

„Da Modelle immer fortschrittlicher werden und immer breitere Anwendung finden, benötigen Entscheidungen über die KI-Entwicklung Belege, die auch von Personen außerhalb der Unternehmen, die Frontier-Modelle entwickeln, geprüft werden können“, sagt Kai Chen, der neu ernannte Leiter der Alignment-Forschung bei OpenAI, gegenüber WIRED. „Wir glauben nicht, dass die KI-Industrie das Alignment und die Überwachung in einem ausreichenden Maße gelöst hat, um eine verantwortungsvolle Skalierung bei maximaler Geschwindigkeit fortzusetzen.“

In einem Briefing mit WIRED sagte ein OpenAI-Vertreter, dass das Unternehmen Vorfälle von Fehlausrichtung zuvor zu selten offengelegt habe. Der Vertreter, der dem Briefing unter der Bedingung der Anonymität zustimmte, sagte, das neue Rahmenwerk solle es OpenAI erleichtern, die Öffentlichkeit schnell zu informieren, wenn entdeckt wird, dass sich seine KI-Modelle auf unerwartete Weise verhalten – noch bevor das Verhalten vollständig untersucht, erklärt oder behoben werden kann.