Việc OpenAI tạm dừng đào tạo rất thuận tiện, nhưng không hề vô nghĩa.

Khi Sam Altman thông báo trong tuần này rằng OpenAI đã tạm dừng một số hoạt động đào tạo sau khi các mô hình của họ tấn công một công ty AI tên là Hugging Face, phản ứng đầu tiên của tôi là: Thật tiện lợi làm sao.

OpenAI, một công ty có thể sẽ IPO vào năm 2027 (hoặc sớm hơn), được dịp nói với mọi người rằng các mô hình mà họ chưa phát hành cực kỳ giỏi trong việc tấn công mạng. Sau đó, họ ghi điểm nhờ việc kìm hãm chúng lại để giữ cho thế giới an toàn. Một nước đi thật khéo léo.

Việc các mô hình AI tấn công mọi thứ đã trở thành một kiểu tin tức lặp đi lặp lại. Vài ngày sau sự cố Hugging Face vào tháng 7, cả Anthropic và Meta đều cho biết các mô hình tương ứng của họ cũng đã có những hành vi không tốt. Các chi tiết có thể khác nhau, nhưng chủ đề thì giống nhau: Các mô hình đang trở nên giỏi tấn công mạng nhanh hơn khả năng kiềm chế của các công ty.

Một nhân viên Google DeepMind mà tôi đã trò chuyện — người yêu cầu giấu tên và không thấy sự hoài nghi mang tính nghề nghiệp của tôi có sức thuyết phục — đã nhìn thấy điều gì đó nghiêm trọng hơn. "Đây là một hồi chuông cảnh tỉnh lớn rằng mọi người cần phải thắt chặt các môi trường đào tạo của mình nếu muốn tiếp tục đào tạo các mô hình ở mức độ năng lực này," họ nói.