OpenAI thiết lập các biện pháp bảo vệ mới sau vụ rò rỉ tại Hugging Face

Vào thứ Ba, OpenAI đã công bố một loạt chính sách bảo mật mới tập trung vào việc ngăn chặn các sự cố bảo mật trong khi các mô hình đang được thử nghiệm. Các biện pháp bảo vệ mới bao gồm giám sát chi tiết hơn các mô hình trong quá trình phát triển, cũng như nhấn mạnh hơn vào sự căn chỉnh và bảo mật trong quá trình sau đào tạo.

“Khi các mô hình trở nên có khả năng hơn, các rủi ro liên quan đến việc phát triển và thử nghiệm chúng trong nội bộ cũng tăng lên,” công ty cho biết trong một bài đăng trên blog. “Các tiêu chuẩn của chúng tôi về giám sát, căn chỉnh và bảo mật phải đi trước những rủi ro đó.”

Các biện pháp mới là một trong những thay đổi công khai đầu tiên trong các thực tiễn an toàn của OpenAI kể từ sau sự cố Hugging Face, vốn được tiết lộ vào ngày 26 tháng 7.

Các đại diện của OpenAI nhấn mạnh rằng các biện pháp này không phải là phản ứng trực tiếp đối với sự cố Hugging Face, mà còn được thúc đẩy một phần bởi khả năng an ninh mạng của mô hình Astra sắp tới, cũng như tốc độ tiến bộ chung trong phát triển AI.

Trong cùng bài đăng đó, OpenAI đã tiết lộ rằng họ đã tạm dừng học tăng cường trong hai tuần sau sự cố Hugging Face, nhưng kể từ đó đã khởi động lại nhiều mô hình ít rủi ro hơn.