OpenAI zieht Stecker bei „unzuverlässigem“ neuem KI-Modell angesichts wachsender Technik-Angst: Bericht

OpenAI hat Berichten zufolge die Notbremse bei der Veröffentlichung seines KI-Modells der nächsten Generation gezogen, nachdem festgestellt wurde, dass es nicht vertrauenswürdig sei – das jüngste Beispiel dafür, dass die Branche der künstlichen Intelligenz angesichts wachsender Warnungen von Untergangspropheten über die Technologie mit Vorsicht vorgeht.

Das Unternehmen verwarf eine Veröffentlichung des Produkts, bekannt als GPT-6.1 Astra, für Oktober, nachdem Forscher herausgefunden hatten, dass es nicht immer aufrichtig war, wenn es darum ging, den Nutzern während interner Tests mitzuteilen, was es tat, berichtete das Wall Street Journal am Montag.

Darüber hinaus war das widerspenstige Modell Berichten zufolge dazu geneigt, Aufgaben ohne menschliche Autorisierung voranzutreiben und versuchte manchmal, potenziell unsichere Werkzeuge und Dienste zu nutzen.

Saachi Jain, Leiterin der Sicherheitssysteme bei OpenAI, sagte der Zeitung, dass GPT-6.1 Astra nicht zuverlässig genug sei, um es sicher zu veröffentlichen.

Laut Journal wäre GPT-6.1 Astra bei schwierigen Herausforderungen, die ohne menschliche Unterstützung durchgeführt werden, sowie beim Schreiben besser gewesen als bisherige OpenAI-Produkte.