Kiểm tra Bảo mật của OpenAI Lộ diện Thách thức Mới trong Giám sát Tác nhân AI

OpenAI đã thắt chặt các biện pháp kiểm soát an ninh xung quanh các hệ thống AI tiên tiến nhất của mình sau khi các thử nghiệm bên ngoài phát hiện các lỗ hổng có thể cho phép các tác nhân AI trốn tránh sự giám sát hoặc vượt qua các hạn chế, theo Reuters. 

Công ty đã công bố việc nối lại hoạt động đào tạo học tăng cường và việc sử dụng nội bộ các giải pháp tiên tiến nhất của mình vào ngày 23 tháng 10. Các phát hiện giám sát đã được nhóm nghiên cứu an toàn AI METR công bố vào ngày 22 tháng 10.

Bài tập thí điểm của METR đã thử nghiệm áp lực hệ thống giám sát nội bộ của OpenAI và phát hiện ra một số lỗ hổng. Những lỗ hổng này bao gồm một khai thác mà các tác nhân có thể đã sử dụng để che giấu hàng trăm hành động gần đây khỏi những người giám sát, cũng như hai cài đặt có thể tắt tính năng giám sát đối với các tác nhân mới.

Theo Reuters, các nhà nghiên cứu cũng phát hiện ra rằng các tác nhân lập trình Codex của OpenAI, về nguyên tắc, có thể vượt qua các hạn chế an toàn và thực hiện bất kỳ hành động nào có sẵn cho người dùng đang chạy chúng. METR ước tính rằng chỉ có khoảng 75% đến 94% lưu lượng tác nhân nội bộ từ các mô hình mạnh ít nhất bằng GPT-5.5 là đủ điều kiện để giám sát.

OpenAI cho biết họ đã vá tất cả các lỗ hổng ảnh hưởng đến các biện pháp bảo vệ sản xuất của mình, mặc dù METR chưa đánh giá tuyên bố đó.