Base Labs, Hugging Face ve Goodfire ile açık ağırlıklı yapay zeka güvenliği ortaklığı kuruyor

Baseten, Çarşamba günü araştırma kolu Base Labs ile birlikte yeni bir güvenlik altyapısı standardı başlattı ve açık ağırlıklı modeller için güvenlik değerlendirme ve izleme altyapısı oluşturmak üzere Hugging Face ve Goodfire AI ile ortaklık kurdu.

Bu duyuru, abliteration olarak bilinen ve giderek yaygınlaşan bir teknikle koruma önlemlerinin kaldırılmasıyla tehlikeli hale getirilebilen açık ağırlıklı modellerin güvenliğine ilişkin tartışmaların ortasında geldi. Sorunun ölçeği çok büyük: Açık kaynaklı yapay zeka modellerine ev sahipliği yapan Hugging Face, şu anda 6.000'den fazla abliterated model listeliyor. 

Baseten'in bu yılın başlarında kurduğu araştırma grubu Base Labs, açık modellerin eğitimi ve izlenmesi için yöntemler geliştirecek ve yayınlayacak. Şirket, gelecekteki çalışmalarını açık modeller için sonradan eklenmek yerine, modellerin eğitilme ve konuşlandırılma biçimine entegre edilen, şeffaf ve yerleşik bir "standart" olarak kurguluyor. 

Şirket X üzerinden yaptığı açıklamada, "Açıklığın yapay zeka güvenliği için bir avantaj olduğuna inanıyoruz," dedi. "Açıklık, modellerin davranışlarına daha fazla görünürlük sağlar ve en önemlisi, güvenlik araştırmalarını eyleme geçirilebilir ve şeffaf kontrollere dönüştürmek için kapalı kaynağa göre daha büyük imkanlar sunar."