AI-Labore wollen interne Auditoren – doch vielleicht sollten sie zuerst die Vordertür schließen

Am vergangenen Wochenende, nachdem einer seiner Forscher aufgrund von Befürchtungen zurückgetreten war, dass KI zur Auslöschung der Menschheit führen könnte, schrieb Anthropic-CEO Dario Amodei über die Notwendigkeit für externe Organisationen, „die Einhaltung von Sicherheitspraktiken und -verpflichtungen zu überprüfen, Vorfälle zu melden und dabei zu helfen, das Alignment nicht nur fertiger KI-Modelle, sondern auch von Trainingspipelines und -prozessen zu bewerten“. Führungskräfte bei OpenAI, Google und SpaceXAI haben sich bereits hinter Amodeis Plan gestellt, der schnell zu einer zentralen Säule der aufkommenden KI-Sicherheitsbemühungen geworden ist.

Doch es könnte eine einfachere und effektivere Lösung direkt vor unseren Augen liegen. Internet-Sicherheitsexperten sagen, dass sich die Labore auf die Grundlagen der Netzwerksicherheit wie Protokolle und Berechtigungen konzentrieren müssen und dabei die gleichen strengen Abwehrmechanismen anwenden sollten wie für menschliche Nutzer. Es ist nicht so aufregend wie Audits durch Drittanbieter und Alignment-Arbeit – aber es könnte letztendlich effektiver sein.

„Für mich sieht es so aus, als würden sie es auslagern“, sagte Kate Moussoris, die CEO von Luta Security, gegenüber TechCrunch zu Amodeis Vorschlag. „Zu sagen, [ein Audit durch Dritte] sei die Lösung, ist aus meiner Sicht ein seltsames Vorhaben. Das wäre so, als ob Microsoft, anstatt das Trustworthy Computing Memo zu verfassen, gesagt hätte, lasst uns die Entwicklung verlangsamen.“