Anthropic und OpenAI benötigen wirklich unabhängige Sicherheitsprüfer, so Experten in offenem Brief

Über 100 Experten und Evaluatoren für künstliche Intelligenz schließen sich zusammen, um zu warnen, dass sie nicht über die notwendigen Ressourcen und Schutzmaßnahmen verfügen werden, um die Sicherheit der KI-Technologie zu prüfen, die aufgrund von Bedenken von Insidern über die potenziellen Gefahren von Frontier-Modellen unter verstärkter Beobachtung steht.

„Wir versuchen lediglich, eine gemeinsame Basis für grundlegende Prinzipien aufzuzeigen und sicherzustellen, dass eine unabhängige Aufsicht ein bedeutendes Instrument für das Management von KI-Risiken im Allgemeinen sein kann“, sagte Conrad Stosz, Vorsitzender des Konsortiums AI Evaluator Forum, das den Brief organisiert hat, in einem Interview.

Die Gruppe veröffentlichte am Freitag einen öffentlichen Brief zu diesem Thema und teilte ihn exklusiv mit CNBC. Zu den Unterzeichnern gehören KI-Größen wie Geoffrey Hinton und Mitglieder von Organisationen wie der Johns Hopkins University, der Stanford University und dem gemeinnützigen Evaluator METR. Sie wollen die Anbieter von Basismodellen dazu zwingen, sicherzustellen, dass externen KI-Evaluatoren die notwendige „wissenschaftliche Objektivität, Transparenz, Unabhängigkeit und robuste Schutzmaßnahmen“ gewährt werden, um ihre Arbeit effektiv und glaubwürdig zu erledigen, heißt es in dem Brief.