OpenAI bricht Pläne zur Veröffentlichung des nächsten Modells wegen Sicherheitsbedenken ab

OpenAI hat beschlossen, ein kommendes Modell der künstlichen Intelligenz, GPT-6.1 Astra, nicht zu veröffentlichen, nachdem das Unternehmen festgestellt hatte, dass es seine Sicherheitsstandards nicht ausreichend erfüllte, wie CNBC am Montag bestätigte.

Die Entscheidung von OpenAI, auf die Veröffentlichung zu verzichten, fällt in eine Zeit, in der die KI-Branche mit zunehmenden Bedenken hinsichtlich der Sicherheit fortschrittlicher Modelle konfrontiert ist. In einem Essay Anfang dieses Monats forderte Anthropic-CEO Dario Amodei die Foundation Labs auf, das Tempo der Modellentwicklung zu drosseln, da Befürchtungen aufkommen, dass diese außer menschlicher Kontrolle geraten könnten.

„Natürlich wollen wir sicherstellen, dass unsere Modellentwicklung sicher ist, egal ob intern im Unternehmen oder wenn wir sie an die Nutzer ausliefern“, sagte Saachi Jain, Leiterin der Sicherheitssysteme bei OpenAI, in einer Erklärung. „Aber wenn wir sie an die Nutzer ausliefern, haben wir eine extrem hohe Messlatte in Bezug auf Sicherheit und Ausrichtung.“

Dies ist eine Eilmeldung. Bitte aktualisieren Sie die Seite für Updates.