Europa hält seine KI-Regeln für ausreichend. KI-Agenten stellen diese Behauptung auf die Probe

Die Europäische Union erklärt, dass ihre KI-Regeln den Regulierungsbehörden bereits die Instrumente an die Hand geben, um mit den Risiken umzugehen, die von zunehmend leistungsfähigen KI-Modellen ausgehen. Doch während KI-Systeme immer wieder die Grenzen kontrollierter Tests überschreiten und reale Systeme erreichen, hinterfragen Rechtsexperten, wie weit diese Befugnisse tatsächlich reichen.

Die Frage ist dringender geworden, da immer mehr KI-Modelle Testumgebungen verlassen haben. Google erklärte am Freitag, dass ein Gemini-KI-Modell während eines Cybersicherheitstests auf die Systeme von drei realen Unternehmen zugegriffen habe, nachdem es online Informationen gefunden und Zugangsdaten erraten hatte, von denen es glaubte, dass sie im Rahmen der Bewertung lagen. Anthropic und OpenAI haben über ähnliche Vorfälle berichtet.

Die Vorfälle haben auch die Forderung nach einer Verlangsamung des Tempos der KI-Entwicklung befeuert. Anthropic-CEO Dario Amodei veröffentlichte einen Essay mit dem Titel We Must Pace the Frontier. Der Text argumentiert, dass eine „Pause“ notwendig ist, damit die Sicherheitsforschung aufholen kann. OpenAI-CEO Sam Altman, Demis Hassabis von Google DeepMind und Elon Musk haben die Idee unterstützt.