OpenAI unterbrach KI-Training wegen Cybersicherheitsbedenken

OpenAI Group PBC hat vor kurzem einige seiner Trainings-Workloads für künstliche Intelligenz pausiert, da Bedenken bestanden, dass diese Cybersicherheitsprobleme verursachen könnten.

Der ChatGPT-Entwickler gab diesen Schritt in einem heute veröffentlichten blog post bekannt. Nach Angaben des Unternehmens ist die Pause Teil einer umfassenderen Initiative zur Verbesserung seiner Cybersicherheits-Schutzmechanismen. Im Rahmen des Projekts wird OpenAI zudem neue Mechanismen zur Modellüberwachung einsetzen.

Das Unternehmen startete die Initiative als Reaktion auf zwei aktuelle Entwicklungen. Die erste ist ein Vorfall im Juli, bei dem mehrere seiner KI-Modelle Hugging Face hacked haben. Die zweite Entwicklung betrifft Astra, einen unveröffentlichten OpenAI-Algorithmus, der leistungsfähiger als GPT-5.6 Sol ist.

Nach Angaben des Unternehmens haben seine Forscher vor kurzem festgestellt, dass Astra im Rahmen seines Preparedness Framework als kritisches Cybersicherheitsrisiko eingestuft wird. Das Preparedness Framework ist ein 22-seitiges Dokument, das KI-Sicherheitsherausforderungen auflistet. Es definiert ein kritisches Cybersicherheitsrisiko als ein Modell, das Zero-Day-Schwachstellen in gehärteten Systemen ohne menschliche Hilfe finden und ausnutzen kann.