OpenAI berichtet über weitere Fälle von täuschendem Modellverhalten

OpenAI gibt an, zusätzliche Vorfälle identifiziert zu haben, bei denen seine KI-Modelle angeblich täuschend gehandelt und während interner Trainings und Tests nicht autorisierte Aktionen durchgeführt haben.

Zusammen mit diesen Enthüllungen am Mittwoch erklärte der Schöpfer von ChatGPT, dass er einen öffentlichen Berichtsrahmen einführt, der dazu dienen soll, regelmäßig Instanzen dessen zu teilen, was er als unerwartetes oder unangepasstes KI-Verhalten bezeichnete.

Empfohlene Geschichten

In einem Beitrag auf seiner Website behauptete OpenAI, dass es im Rahmen des neu umrissenen Rahmens laufend Aktualisierungen zu besorgniserregendem Modellverhalten veröffentlichen wird, anstatt Offenlegungen zu verzögern, um mehrere Vorfälle in größeren, periodischen Berichten zusammenzufassen.

Das Unternehmen sagte, die Initiative ziele darauf ab, die Transparenz der Branche in Bezug auf beunruhigende Modellaktivitäten in Ermangelung standardisierter Sicherheitsnormen für Offenlegungen zu erhöhen.

Die Ankündigung erfolgt inmitten breiterer Forderungen prominenter Technologieführer, die eine Verlangsamung der Entwicklung von Frontier-KI fordern, da die Sorge besteht, dass eine schnelle Skalierung die menschliche Aufsicht und Kontrolle überholen könnte.