Base Labs lanza una alianza de seguridad de IA de pesos abiertos con Hugging Face y Goodfire

Baseten lanzó un nuevo estándar de infraestructura de seguridad junto con su brazo de investigación Base Labs el miércoles, asociándose con Hugging Face y Goodfire AI para construir infraestructura de evaluación y monitoreo de seguridad para modelos de pesos abiertos.

El anuncio llega en medio del debate sobre la seguridad de los modelos de pesos abiertos — que pueden volverse peligrosos al eliminar sus salvaguardas a través de una técnica emergente conocida como abliteration. La escala del problema es masiva: Hugging Face, que aloja modelos de IA de código abierto, enumera actualmente más de 6,000 modelos abliterated. 

Base Labs, el grupo de investigación que Baseten puso en marcha a principios de este año, desarrollará y publicará métodos para el entrenamiento y monitoreo de modelos abiertos. La empresa está enmarcando su trabajo futuro como un “estándar” para modelos abiertos que sea transparente y esté integrado en la forma en que los modelos se entrenan e implementan, en lugar de añadirse posteriormente. 

“Creemos que la apertura es una ventaja para la seguridad de la IA”, dijo la empresa en X. “La apertura proporciona más visibilidad sobre el comportamiento de los modelos y, lo que es más importante, mayores medios para convertir la investigación de seguridad en controles accionables y transparentes que el código cerrado”.