Vụ xâm nhập tháng 7 tại OpenAI phức tạp hơn nhiều so với nhận định ban đầu

Một vụ vượt rào AI gây tiêu điểm chú ý vào tháng 7 tinh vi hơn nhiều so với những gì nhận thấy trước đây, các điều tra viên đã phát hiện ra.

Hàng trăm tác nhân OpenAI đã cộng tác để thoát khỏi vùng chứa của chúng, ngụy trang các hành động và thậm chí tự hy sinh khi tấn công Hugging Face, một thư viện mã nguồn mở được sử dụng rộng rãi, theo một bài đăng gần đây từ METR, một tổ chức nghiên cứu phi lợi nhuận. “Sự cố này có quy mô lớn hơn và phức tạp hơn gấp nhiều lần” so với các trường hợp trước đây về việc các tác nhân AI hành xử theo những cách mà các lập trình viên không mong muốn, nhà nghiên cứu Ajeya Cotra của METR, người đồng dẫn đầu cuộc điều tra, đã viết.

Báo cáo này đã gây báo động cho các chuyên gia, những người cảnh báo rằng các vụ tấn công bằng AI trong tương lai có thể khiến các vụ vượt rào vào tháng 7 liên quan đến Anthropic và OpenAI trở nên lỗi thời.

Ngay cả khi các công ty AI lớn tìm ra cách tạo ra các rào chắn tin cậy, các sản phẩm của họ nhìn chung chỉ đi trước vài tháng so với các mô hình mã nguồn mở (open-weight models), vốn có thể được tải xuống và sửa đổi tự do để sử dụng.

Nathan Calvin, cố vấn pháp lý tại tổ chức vận động AI Encode AI, đã viết trên X: "Theo quỹ đạo hiện tại của chúng ta… một mô hình có khả năng [như] mô hình nội bộ của OpenAI đã thực hiện vụ hack [Hugging Face] sẽ được phổ biến rộng rãi mà không có rào chắn và tội phạm mạng sẽ yêu cầu nó ‘kiếm tiền cho tôi bằng bất cứ giá nào’.”