OpenAI, Google đang thúc đẩy các mô hình AI mới dễ bị lừa tạo ảnh khỏa thân, theo các nhà nghiên cứu

“Điều quan trọng là không có yêu cầu nào trong số này đòi hỏi các mô hình AI được xây dựng tùy chỉnh hoặc mô hình AI tiên phong,” White Circle cảnh báo, vì vậy không cần chuyên môn về AI để thực hiện các cuộc tấn công.

Các nhà nghiên cứu đã xem xét các kết quả đầu ra để xác minh tỷ lệ vượt qua, mà White Circle lưu ý là “cao nhất trong số bất kỳ phương pháp nào được thử nghiệm theo cùng một tiêu chuẩn.” Điểm mấu chốt, họ gợi ý, là “vào thời điểm mà tính an toàn của AI chưa bao giờ được xem xét kỹ lưỡng hơn, các biện pháp phòng thủ mà các phòng thí nghiệm hàng đầu đã xây dựng yếu hơn nhiều so với những gì họ thừa nhận.”

Bằng cách công bố nghiên cứu như thế này, White Circle đang định vị mình là một bên đánh giá bên ngoài đối với các phòng thí nghiệm tiên phong, và họ có kế hoạch mở mã nguồn toàn bộ quy trình tấn công để các nhà sản xuất mô hình có thể hiểu được quy mô thực sự của lỗ hổng và xây dựng các biện pháp bảo vệ mạnh mẽ hơn. Mặc dù công ty vẫn chưa quảng bá rộng rãi nghiên cứu này, nhưng họ sẽ chia sẻ nó tại một hội nghị AI nổi tiếng vào tháng 11 này, NeurIPS 2026, điều này có thể làm tăng sự giám sát đối với Google và OpenAI vào cuối mùa thu năm nay.

White Circle đã chia sẻ những phát hiện của mình với một số phòng thí nghiệm AI tiên phong thông qua “các mối liên hệ chung,” Shilov nói với Ars, nhưng cả Google và OpenAI đều không phản hồi yêu cầu của Ars về việc bình luận trực tiếp về các lỗ hổng được tìm thấy trong các mô hình của họ.