Các nhà nghiên cứu vượt qua sandbox OpenAI Codex để thực thi lệnh trên máy chủ

Các nhà nghiên cứu bảo mật đã tìm thấy hai cách để thoát khỏi hộp cát (sandbox) của OpenAI Codex, một trong số đó có khả năng thực thi các lệnh trên máy tính của nhà phát triển từ chế độ bị khóa chặt nhất của Codex mà không cần lời nhắc phê duyệt và không có gì hiển thị trên màn hình.

Cả hai lỗ hổng đều được báo cáo cho OpenAI vào ngày 12 tháng 8 và đã được khắc phục trong vòng tám ngày, theo Oren Yomtov của Accomplish AI.

Lỗ hổng nghiêm trọng hơn trong số hai lỗ hổng, được các nhà nghiên cứu gọi là Heapjack, biến một hành động thông thường thành thực thi mã từ xa: mở kho lưu trữ (repository) của người khác trong Codex, đặt một câu hỏi về mã nguồn, và bất kỳ ai viết kho lưu trữ đó đều có thể thực thi lệnh bên ngoài hộp cát trên máy tính của bạn.

Codex là công cụ hỗ trợ lập trình của OpenAI, có sẵn dưới dạng công cụ dòng lệnh và ứng dụng máy tính để bàn. Giống như các công cụ đối thủ, nó chạy các hành động của mô hình bên trong một hộp cát để mã không đáng tin cậy không thể chạm vào hệ thống rộng hơn. Cả hai cách thoát đều hoạt động bằng cách phá vỡ ranh giới đó từ bên trong.

Heapjack

Kỹ thuật Heapjack, như được mô tả trong bài viết của Yomtov, nhắm vào một thành phần gọi là node_repl, thành phần mà Codex Desktop ghi vào tệp cấu hình toàn cầu '~/.codex/config.toml' tại thời điểm cài đặt.