Microsoft-CEO Satya Nadella fordert eine Notbremse für fortschrittliche KI

Microsoft-CEO Satya Nadella möchte, dass fortschrittliche KI mit etwas ausgestattet wird, das jedes Auto bereits hat: einem Bremspedal.

In einem Beitrag auf X am 10. Oktober 2026 forderte Nadella eine neue „Vertrauensarchitektur“ für wegweisende KI-Systeme. Im Mittelpunkt steht eine „Notbremse“, die es autorisiertem Personal ermöglichen würde, ein KI-Modell während einer laufenden Aufgabe anzuhalten oder abzuschalten.

Was Nadella tatsächlich vorgeschlagen hat

Die Notbremse ist das Hauptmerkmal. Autorisierte Benutzer könnten ein Modell mitten im Betrieb anhalten, anstatt darauf zu warten, dass es das beendet, was es begonnen hat.

Das ist wichtiger, als es klingt. Ältere Chatbots beantworteten eine Frage und hielten an. Neuere „agentische“ Systeme können selbstständig eine Reihe von Aktionen ausführen, weshalb die Fähigkeit, sie zwischendurch zu unterbrechen, zu einem echten Sicherheitserfordernis wird.

Der bemerkenswertere Teil ist, wie Nadella möchte, dass Unternehmen über diese Modelle denken. Er argumentierte, dass fortschrittliche KI so behandelt werden sollte, als wäre sie bereits kompromittiert, wobei derselbe Ansatz wie bei Insider-Bedrohungen angewendet wird.

Zwei weitere Teile runden das Rahmenwerk ab: