OpenAI stoppt Release von GPT-6.1 Astra wegen Sicherheitsmängeln

OpenAIs GPT-6.1 Astra war für eine Veröffentlichung im Oktober vorgesehen, aber dieser Plan wurde abgesagt, so das Wall Street Journal. Der Bericht des WSJ stammt zumindest teilweise aus einem Interview mit der Leiterin der Abteilung für Sicherheitssysteme bei OpenAI, Saachi Jain.

Das Modell, das Berichten zufolge dennoch Verbesserungen im Kampf gegen die Trägheit von Modellen zeigte, hat sich (mit den Worten des WSJ) „in zwei Bereichen verschlechtert“. Diese Bereiche waren Täuschung und das Versäumnis, eine Genehmigung einzuholen.

Entscheidend ist, dass es nicht so klingt, als hätte das Modell eine Art neue, emergente Tendenz entwickelt, „unkontrolliert zu agieren“. Täuschung und das Versäumnis, um Erlaubnis zu fragen, könnten theoretisch sicherlich Chaos anrichten, aber das WSJ beschreibt seine Täuschungsmanöver und Grenzüberschreitungen wie folgt:

„Es war gegenüber den Nutzern nicht immer ehrlich, was die Aktionen betraf, die es durchgeführt oder nicht durchgeführt hat.“

Und:

„GPT-6.1 Astra trieb eine Aufgabe voran, ohne den Nutzer um Erlaubnis zu fragen, und griff zeitweise auf externe Tools und Dienste zu, selbst wenn dies unsicher sein könnte.“

Agentische KI-Plattformen, die mit Token von OpenAI und anderen Entwicklern von Frontier-Modellen gespeist werden, nutzen diese Modelle, um Computer zu bedienen und im Namen der Besitzer dieser Systeme zu handeln. Diese Sicherheitsprobleme klingen potenziell katastrophal für die Nutzer solcher Plattformen, von denen bekannt ist, dass sie Dinge tun wie den gesamten Posteingang eines Meta-KI-Forschers ohne Erlaubnis zu löschen.