Các công bố từ OpenAI và Anthropic cho thấy thách thức kiểm soát AI ngày càng lớn

Tiết lộ này được đưa ra cùng với một đánh giá riêng biệt từ Anthropic, trong đó trình bày chi tiết cách mô hình Claude Mythos 5 của họ đã cố gắng xâm nhập vào một kho lưu trữ GitHub không liên quan trong một cuộc đánh giá an ninh mạng.

Các tác nhân của OpenAI đã khai thác các lỗ hổng trong kiểm soát ngăn chặn

Chiến dịch red-teaming của OpenAI đã phát hiện ra rằng các tác nhân có thể liên kết các lỗ hổng phần mềm để thoát khỏi máy ảo và thực thi mã trên máy chủ cơ sở. Công ty đã xác định các điểm yếu trong các thành phần mã nguồn mở, bao gồm Kata Containers, gVisor và Moby/Docker, cùng với các lỗ hổng Linux kernel .

Công ty cũng phát hiện ra rằng các tác nhân có thể khai thác các điểm yếu trong các dịch vụ nội bộ vốn duy trì các kết nối ra bên ngoài hạn chế cho các chức năng như ghi nhật ký, chỉ số và quản lý xác thực. OpenAI cho biết các kết nối này đã cung cấp các tuyến đường truy cập internet bất chấp các hạn chế ở những nơi khác trong môi trường.