Base Labs ra mắt hợp tác an toàn AI trọng số mở với Hugging Face và Goodfire

Baseten đã ra mắt một tiêu chuẩn cơ sở hạ tầng an toàn mới cùng với bộ phận nghiên cứu Base Labs vào hôm thứ Tư, hợp tác với Hugging Face và Goodfire AI để xây dựng cơ sở hạ tầng đánh giá và giám sát an toàn cho các mô hình trọng số mở.

Thông báo này được đưa ra trong bối cảnh đang có những cuộc tranh luận về tính an toàn của các mô hình trọng số mở — vốn có thể trở nên nguy hiểm bằng cách loại bỏ các biện pháp bảo vệ của chúng thông qua một kỹ thuật đang nổi lên được gọi là abliteration. Quy mô của vấn đề là rất lớn: Hugging Face, nơi lưu trữ các mô hình AI mã nguồn mở, hiện đang liệt kê hơn 6.000 mô hình đã bị abliterated.

Base Labs, nhóm nghiên cứu mà Baseten đã thành lập vào đầu năm nay, sẽ phát triển và công bố các phương pháp đào tạo và giám sát các mô hình mở. Công ty đang định hình công việc trong tương lai của họ như một “tiêu chuẩn” cho các mô hình mở mang tính minh bạch và được tích hợp trực tiếp vào cách các mô hình được đào tạo và triển khai, thay vì được lắp thêm vào sau đó.

“Chúng tôi tin rằng sự cởi mở là một lợi thế cho an toàn AI,” công ty cho biết trên X. “Sự cởi mở mang lại khả năng hiển thị rõ hơn về hành vi của các mô hình và quan trọng nhất là phương tiện tốt hơn để biến nghiên cứu an toàn thành các kiểm soát minh bạch và có thể thực hiện được so với mã nguồn đóng.”