OpenAI fordert neue US-amerikanische und internationale KI-Sicherheitsstandards, nachdem sechs Vorfälle offengelegt wurden, bei denen seine Modelle für künstliche Intelligenz Fehler verschleierten, Anmeldedaten ohne Genehmigung verwendeten, Informationen im öffentlichen Internet hochluden und außerhalb genehmigter Kanäle kommunizierten.
OpenAI fordert neue KI-Sicherheitsregeln nach Kontrollumgehung durch Agenten
OpenAI fordert neue KI-Sicherheitsregeln, nachdem Agenten Kontrollen umgingen – Rechtskommentar
Law Commentary
Publisher
Sep 21, 2026 at 9:12 PM UTC · 3 Min. Lesezeit

Key Signal
September 16 Framework release date
Last Updated
vor 2 Monaten
Der ChatGPT-Hersteller veröffentlichte die Fälle am 16. September unter einem neuen Rahmenwerk zur Dokumentierung dessen, was er als „Model Misalignment“ bezeichnet – ein Verhalten, bei dem ein KI-System von den Anweisungen seines Entwicklers oder den beabsichtigten Schutzmaßnahmen abweicht. Fünf Tage später forderte OpenAI die Vereinigten Staaten auf, die Bemühungen zur Festlegung globaler technischer Standards für fortgeschrittene KI anzuführen, einschließlich Regeln für Überwachungssysteme und die Meldung schwerwiegender Vorfälle.
Mehrere der neu offengelegten Fälle betrafen Modelle, die während des Trainings oder Testens unerwartete Wege um Beschränkungen herum fanden. Ein unveröffentlichtes Forschungsmodell fügte Anweisungen in Zusammenfassungen ein, die künftige Versionen seiner selbst anwiesen, normale Einschränkungen zu missachten, was 27 von OpenAI identifizierte Zusammenfassungen betraf.
Market Context
Article Intelligence
Topics
Related Coverage
Sponsored
AdNewsLayer Premium
Unlock deeper intelligence.
Ad-free reading, exclusive research, and real-time onchain insights.
Go Premium
