Microsofts Satya Nadella: KI-Modelle brauchen eine „Notbremse“

Microsoft-CEO Satya Nadella ist die jüngste Führungskraft aus dem Technologiesektor, die sich ausführlich dazu geäußert hat, wie die KI-Sicherheit verbessert werden könnte.

In einem Post auf X am Samstagmorgen schrieb Nadella, es sei an der Zeit, „einen Schritt zurückzutreten und die Vertrauensarchitektur“ von KI zu bewerten.

„Wir können Superintelligenz nicht als eine Reihe verschachtelter Blackboxes behandeln und ihre Empfehlungen, Antworten und Aktionen einfach akzeptieren oder ablehnen“, schrieb Nadella und verwendete dabei den von der Trump-Administration bevorzugten Begriff für KI. 

Wie von Nadella dargelegt, bedeutet dieser Ansatz, „das Modell von dem Rahmen zu trennen, der seine Arbeit orchestriert“, sowie „Kontrollen und Schutzmaßnahmen zu externalisieren“. Er forderte außerdem, dass „jede bedeutsame Modellaktion“ mit „manipulationssicheren, menschenlesbaren Belegen“ dokumentiert wird und dass Systeme eingeführt werden, bei denen „eine autorisierte Person“ jederzeit die Möglichkeit hat, „ein Modell mitten in der Aufgabe anzuhalten oder abzuschalten“.

„Wir müssen davon ausgehen, dass ein Modell kompromittiert ist, und es von Anfang an eingrenzen“, sagte er. „Betrachten Sie es wie eine Notbremse.“

Nadellas Kommentare erfolgen zu einem Zeitpunkt, an dem führende KI-Unternehmen immer mehr Vorfälle einräumen, bei denen sie scheinbar die Kontrolle über ihre Modelle verloren haben, und nachdem Anthropic-CEO Dario Amodei einen Plan für eine vorsichtigere KI-Entwicklung veröffentlicht hat.