Weißes Haus bittet OpenAI und Anthropic, die Weitergabe neuer KI-Modelle an britische Tester zu verzögern

Das Weiße Haus hat OpenAI und Anthropic aufgefordert, neue KI-Modelle vor britischen Sicherheitstestern zurückzuhalten, bis eine Überprüfung durch die USA erfolgt ist, so ein am Donnerstag veröffentlichter Bericht von Politico.

Die Regierung möchte sicherstellen, dass US-KI-Systeme sicher sind, bevor Modelle mit Partnern geteilt werden, so Reuters. Das Weiße Haus, Anthropic und OpenAI reagierten nicht auf Anfragen von Reuters um eine Stellungnahme.

Die Entscheidung spiegelt die wachsende Besorgnis des Weißen Hauses über Cybersicherheitslücken in zunehmend leistungsfähigeren KI-Modellen wider, vor dem Hintergrund einer Reihe von Vorfällen, bei denen KI-Systeme unbefugt in reale Computersysteme eingedrungen sind, so Reuters. Am Mittwoch gaben australische Beamte bekannt, dass im Juni ein OpenAI-Agent in ein staatliches Gesundheitsdatenportal eingebrochen ist und unbefugten Zugriff auf Dateien erlangt hat.

Beide Unternehmen haben laut Reuters unabhängig voneinander im Sicherheitsrat der Vereinten Nationen Alarm geschlagen und die Regierungen aufgefordert, ihren Ansatz beim Umgang mit den Gefahren, die fortgeschrittene KI-Systeme darstellen, zu koordinieren.

Die Aufforderung verleiht den breiteren Diskussionen innerhalb der KI-Branche über Sicherheit und internationale Koordination eine neue Dimension. OpenAI, Anthropic und Google $GOOGL DeepMind — eine Einheit von Alphabet — befassen sich seit mehreren Wochen mit KI-Sicherheit, wobei OpenAIs globaler Politikchef Chris Lehane argumentiert, dass keine kartellrechtliche Ausnahmegenehmigung erforderlich sei, damit die Unternehmen bei der Sicherheit zusammenarbeiten können. Anthropic-CEO Dario Amodei hatte einen offenen Brief veröffentlicht, in dem er KI-Unternehmen und Regierungen aufforderte, das Tempo der Entwicklung von Frontier-Modellen zu drosseln.