Base Labs startet Partnerschaft für Open-Weight-KI-Sicherheit mit Hugging Face und Goodfire

Baseten hat am Mittwoch zusammen mit seinem Forschungszweig Base Labs einen neuen Sicherheitsinfrastruktur-Standard eingeführt und arbeitet mit Hugging Face und Goodfire AI zusammen, um eine Infrastruktur zur Sicherheitsbewertung und Überwachung für Open-Weight-Modelle aufzubauen.

Die Ankündigung erfolgt inmitten der Debatte über die Sicherheit von Open-Weight-Modellen — die durch das Entfernen ihrer Schutzvorkehrungen mittels einer aufkommenden Technik namens abliteration gefährlich gemacht werden können. Das Ausmaß des Problems ist gewaltig: Hugging Face, das Open-Source-KI-Modelle hostet, listet derzeit über 6.000 abliterierte Modelle. 

Base Labs, die Forschungsgruppe, die Baseten Anfang dieses Jahres ausgegliedert hat, wird Methoden für das Training und die Überwachung offener Modelle entwickeln und veröffentlichen. Das Unternehmen bezeichnet seine künftige Arbeit als „Standard“ für offene Modelle, der transparent ist und direkt in die Art und Weise integriert wird, wie Modelle trainiert und bereitgestellt werden, anstatt erst nachträglich hinzugefügt zu werden. 

„Wir glauben, dass Offenheit ein Vorteil für die KI-Sicherheit ist“, so das Unternehmen auf X. „Offenheit bietet mehr Einblick in das Verhalten von Modellen und vor allem mehr Möglichkeiten, Sicherheitsforschung in umsetzbare und transparente Kontrollen umzuwandeln als Closed-Source.“