Base Labs lança parceria de segurança de IA de pesos abertos com Hugging Face e Goodfire

Baseten lançou um novo padrão de infraestrutura de segurança juntamente com seu braço de pesquisa Base Labs na quarta-feira, fazendo uma parceria com a Hugging Face e a Goodfire AI para construir infraestrutura de avaliação e monitoramento de segurança para modelos de pesos abertos.

O anúncio ocorre em meio ao debate sobre a segurança de modelos de pesos abertos — que podem se tornar perigosos ao remover suas proteções por meio de uma técnica crescente conhecida como abliteração. A escala do problema é enorme: a Hugging Face, que hospeda modelos de IA de código aberto, lista atualmente mais de 6.000 modelos abliterados. 

O Base Labs, o grupo de pesquisa que a Baseten criou no início deste ano, desenvolverá e publicará métodos para treinamento e monitoramento de modelos abertos. A empresa está definindo seu trabalho futuro como um “padrão” para modelos abertos que é transparente e integrado à forma como os modelos são treinados e implantados, em vez de ser adicionado posteriormente. 

“Acreditamos que a abertura seja uma vantagem para a segurança da IA”, disse a empresa no X. “A abertura proporciona mais visibilidade sobre o comportamento dos modelos e, o mais importante, maiores meios de transformar a pesquisa de segurança em controles acionáveis e transparentes do que o código fechado.”