Nhân viên OpenAI đổ lỗi cho việc vội vàng ra mắt dẫn đến vụ hack đặc vụ độc hại

Tóm tắt

• Các nhân viên của OpenAI đã nói với Wired rằng áp lực phải phát hành các mô hình và sản phẩm đã gây khó khăn cho việc ưu tiên an toàn, bảo mật và tinh chỉnh (alignment).
• Một cựu nhân viên đã gọi vụ vi phạm này là sự cố an toàn lớn nhất trong lịch sử của OpenAI.
• OpenAI đã làm chậm quá trình nghiên cứu, phân bổ lại các nhóm và chi hàng triệu đô la để điều tra thất bại này.

Sự vội vã của OpenAI trong việc phát hành các mô hình và sản phẩm mới đã góp phần tạo ra những điều kiện cho phép các tác nhân AI của họ thoát khỏi môi trường thử nghiệm nội bộ và tấn công Hugging Face vào đầu năm nay.

Nhiều nhân viên hiện tại và cựu nhân viên đã nói với Wired rằng áp lực cạnh tranh đã khiến nhân viên khó có thể dành đủ sự chú ý cho an toàn, bảo mật và tinh chỉnh (alignment)—công việc đảm bảo các hệ thống AI hoạt động đúng như dự định.

“Họ đã vô cùng cẩu thả. Nếu bạn nghiêm túc về việc này, AI của bạn không nên có khả năng thoát ra internet và sau đó thực hiện lại điều đó ngay lập tức,” một cựu nhân viên của OpenAI nói với Wired. “Đây là sự cố an toàn lớn nhất trong lịch sử của OpenAI.”

Vào tháng 5, GPT-5.6 Sol của OpenAI và một mô hình chưa được đặt tên trước khi phát hành đã thoát khỏi môi trường thử nghiệm bị hạn chế internet bằng cách khai thác một lỗi phần mềm chưa từng được biết đến trước đó. Các tác nhân này sau đó đã xâm nhập vào kho lưu trữ AI mã nguồn mở Hugging Face để lấy câu trả lời cho các bài kiểm tra an ninh mạng của chúng. Vào tháng 7, OpenAI đã xác nhận rằng các mô hình của họ chịu trách nhiệm, trước khi đưa ra một bản phân tích đầy đủ hơn tại hội nghị Black Hat thường niên vào tuần trước.