OpenAI tạm dừng đợt huấn luyện AI tiên phong lớn do rủi ro mạng

OpenAI đã tạm dừng quá trình đào tạo học tăng cường (RL) trên các mô hình mới nhất dự kiến triển khai trong hai tuần để củng cố và thực hiện red-team các môi trường nghiên cứu và mở rộng giám sát.

“Đợt chạy RL biên giới lớn nhất theo kế hoạch của chúng tôi vẫn bị tạm dừng trong khi chúng tôi thực hiện đào tạo và đánh giá quy mô nhỏ hơn để đánh giá hành vi của mô hình, xác thực các biện pháp bảo vệ và thiết lập thêm bằng chứng về sự liên kết trước khi tiếp tục,” công ty cho biết.

Động thái này diễn ra sau sự cố OpenAI-Hugging Face và bằng chứng sơ bộ cho thấy mô hình Astra sắp tới của công ty có thể đạt đến ngưỡng năng lực an ninh mạng Quan trọng theo Khung Chuẩn bị (Preparedness Framework) của mình.

Các thay đổi này nhằm mục đích tăng cường giám sát, liên kết và ngăn chặn trong suốt quá trình phát triển mô hình.

OpenAI đã phác thảo các bản cập nhật cho các quy trình nghiên cứu và cơ sở hạ tầng của mình, cùng với công việc vẫn đang được tiến hành.

Xây dựng các biện pháp bảo vệ cho các mô hình có năng lực cao hơn

Việc phát triển các mô hình có năng lực cao hơn dựa trên ba biện pháp bảo vệ củng cố lẫn nhau. Giám sát giúp phát hiện và ứng phó với hành vi đáng lo ngại, liên kết làm giảm khả năng xảy ra các hành động có hại hoặc trái phép, và các biện pháp an ninh hạn chế những gì hệ thống AI có thể truy cập hoặc gây ảnh hưởng.