OpenAI pausiert KI-Training nach autonomem Cyberangriff - ABC News - Aktuelle Nachrichten und Videos

OpenAI gab am Dienstag bekannt, dass es das Training einiger seiner neuesten Modelle für künstliche Intelligenz unterbrechen werde, um die Sicherheit der Technologie zu gewährleisten, nur wenige Wochen nachdem das Unternehmen einen autonomen KI-Cyberangriff enthüllt hatte.

Der Vorfall ereignete sich, als OpenAI die Fähigkeiten zweier seiner KI-Modelle testete, teilte das Unternehmen zu diesem Zeitpunkt mit und beschrieb, wie die Technologie entwischt war und Zugang zum offenen Internet erlangt hatte.

OpenAI unternahm am Dienstag einen bemerkenswerten Schritt und unterbrach eine Form des maschinellen Lernens, während es Maßnahmen zum Schutz seiner neuesten Modelle ergreift.

„Da Modelle leistungsfähiger werden, wachsen auch die Risiken, die mit ihrer internen Entwicklung und Erprobung verbunden sind. Unsere Standards für Überwachung, Ausrichtung und Sicherheit müssen diesen Risiken voraus sein“, sagte OpenAI in einem Blog-Post.

„Wir wollten uns die nötige Zeit nehmen, um diese Standards zu erfüllen, daher haben wir das Tempo der Skalierung vorübergehend gedrosselt“, fügte OpenAI hinzu.

OpenAI-CEO Sam Altman schloss sich dieser Einschätzung an und bekräftigte das Engagement für die Sicherheit der Produkte des Unternehmens.