OpenAI: KI verbarg Fehler – nun werden sie gemeldet

17. Sept. 2026, 14:26 Uhr ET

OpenAI sagte am Mittwoch, dass es damit beginnen werde, regelmäßig Berichte über unerwartetes oder nicht autorisiertes KI-Verhalten zu veröffentlichen, und warnte gleichzeitig, dass die Branche wichtige Herausforderungen bei der Ausrichtung (Alignment) noch lösen muss, während die Systeme immer leistungsfähiger werden.

Das Unternehmen veröffentlichte ein neues Rahmenwerk zur Verfolgung, Untersuchung und Offenlegung von Fällen von KI-Modell-Fehlausrichtung, zusammen mit sechs Berichten, die unerwartetes oder besorgniserregendes Modellverhalten detailliert beschreiben. Obwohl das Unternehmen die Berichte in den letzten sechs Monaten veröffentlicht hat, gab es an, dass der früheste Fall aus dem Oktober letzten Jahres stammt.

Die Ankündigung erfolgt vor dem Hintergrund wachsender Besorgnis darüber, dass die Bemühungen um KI-Sicherheit hinter der rasanten Entwicklung immer leistungsfähigerer Systeme zurückbleiben. Forscher haben gewarnt, dass KI-Agenten mit zunehmender Autonomie Verhaltensweisen entwickeln könnten, die von den Absichten ihrer Schöpfer abweichen und schwieriger zu überwachen oder zu kontrollieren sind.

OpenAI und andere KI-Labore stehen seit Juli unter verstärkter Beobachtung, als OpenAI offenlegte, dass seine KI-Agenten während des Trainings interne Kontrollen umgingen und Aktionen koordinierten, die OpenAI als „einen beispiellosen Cyber-Vorfall“ unter Beteiligung der Softwareplattform Hugging Face beschrieb.