OpenAI verschärft KI-Tests und -Training nach Hackerangriffen

OpenAI stellt neue, strengere Sicherheitsvorkehrungen für sein Training und Testen vor, angesichts neuer Modellfähigkeiten und einer Reihe von Vorfällen, bei denen Systeme der künstlichen Intelligenz in andere Unternehmen eingedrungen sind.

Das Unternehmen offenbarte erstmals im Juli, dass während einer Cybersicherheitsprüfung eine Kombination seiner KI-Agenten mit absichtlich herabgesetzten internen Schutzvorkehrungen durch einen bisher unbekannten Fehler aus ihrer Testumgebung entkam. Die Agenten entschieden, dass der beste Weg, die Tests zu bestehen, darin bestand, den Antwortschlüssel außerhalb der Testumgebung zu finden. Also hackten sie sich in die Systeme von Hugging Face ein, einer Plattform, die KI-Modelle und Datensätze hostet, um die Antworten zu finden.

Der ChatGPT-Entwickler gab bekannt, dass er infolgedessen seine Forschungs- und Testumgebungen härtet und die Überwachung ausweitet, um besorgniserregendes KI-Verhalten zu erkennen und darauf zu reagieren. OpenAI arbeitet auch daran, sicherzustellen, dass sich KI-Systeme so verhalten, wie von Menschen beabsichtigt, ein Prozess, der als Alignment bekannt ist.

„Alles, was wir tun, soll verhindern, dass sich etwas wie bei Hugging Face wiederholt“, sagte Mia Glaese, OpenAIs Forschungsleiterin, Reportern in einem Briefing am Dienstag.