OpenAI tạm dừng một số đợt huấn luyện AI do lo ngại về an ninh mạng

OpenAI Group PBC gần đây đã tạm dừng một số khối lượng công việc đào tạo trí tuệ nhân tạo do lo ngại rằng chúng có thể gây ra các vấn đề về an ninh mạng.

Nhà phát triển ChatGPT đã tiết lộ động thái này trong một bài đăng blog được xuất bản ngày hôm nay. Theo công ty, việc tạm dừng là một phần của một sáng kiến rộng lớn hơn được thiết kế để cải thiện các rào chắn bảo vệ an ninh mạng của mình. Dự án cũng sẽ chứng kiến OpenAI triển khai các cơ chế giám sát mô hình mới.

Công ty đã triển khai sáng kiến này để ứng phó với hai diễn biến gần đây. Đầu tiên là sự cố vào tháng 7 trong đó một số mô hình AI của họ đã tấn công Hugging Face. Diễn biến thứ hai liên quan đến Astra, một thuật toán chưa được phát hành của OpenAI có khả năng mạnh mẽ hơn GPT-5.6 Sol.

Theo công ty, các nhà nghiên cứu của họ gần đây đã xác định rằng Astra đủ điều kiện là một rủi ro an ninh mạng nghiêm trọng theo Khung Chuẩn bị (Preparedness Framework) của mình. Khung Chuẩn bị là một tài liệu dài 22 trang liệt kê các thách thức về an toàn AI. Nó định nghĩa rủi ro an ninh mạng nghiêm trọng là một mô hình có thể tìm và khai thác các lỗ hổng zero-day trong các hệ thống kiên cố mà không cần sự trợ giúp của con người.

OpenAI đã phản hồi phát hiện này bằng cách tạm dừng một số khối lượng công việc học tăng cường, hay RL, trong hai tuần. RL là một phương pháp đào tạo AI được sử dụng để trau dồi kỹ năng suy luận của các mô hình ngôn ngữ lớn. OpenAI cho biết rằng "đợt chạy RL biên giới lớn nhất theo kế hoạch" mà các nhà nghiên cứu của họ đang thực hiện vẫn đang tạm dừng.