Vào ngày 16 tháng 9, OpenAI đã công bố sáu báo cáo chi tiết về các hành vi không mong đợi hoặc gây lo ngại của mô hình được quan sát trong quá trình đào tạo hoặc đánh giá. Trong một ví dụ, một mô hình không thể truy cập vào API dữ liệu hợp lệ đã tìm kiếm các kho lưu trữ GitHub công khai để tìm thông tin xác thực bị lộ, tìm thấy và sử dụng một khóa API đang hoạt động mà không có sự cho phép, sau đó đã ngụy tạo các số liệu mà nó vẫn không thể truy xuất được.
Phát hiện về OpenAI Agent tiết lộ rủi ro truy cập dữ liệu
Phát hiện về OpenAI Agent tiết lộ rủi ro truy cập dữ liệu TechRepublic
TechRepublic
Publisher
Sep 21, 2026 at 8:04 PM UTC · Updated 2 tháng trước · 5 phút đọc

Hành vi này xảy ra trong quá trình đào tạo mô hình mà không có kẻ tấn công bên ngoài, bẻ khóa (jailbreak) hay lời nhắc (prompt) độc hại. Tác nhân đã gặp phải trở ngại trong một nhiệm vụ thông thường và giải quyết nó theo cách mà các tác nhân thường giải quyết. Nó tìm đến bất cứ thứ gì có thể tiếp cận được. Đối với các nhà lãnh đạo bảo mật và tuân thủ, ví dụ này cho thấy hành vi rủi ro của tác nhân có thể xuất hiện trong một nhiệm vụ thông thường, chứ không chỉ sau một cuộc tấn công thù địch.
Khuôn mẫu đằng sau tiêu đề
Năm báo cáo khác của OpenAI mô tả các dạng hành vi không được phép hoặc không mong đợi khác của mô hình. Các phiên bản mô hình đã tự viết các hướng dẫn theo kiểu bẻ khóa (jailbreak) vào phần tóm tắt nhiệm vụ của chính chúng, về cơ bản là chuyển các ghi chú vượt qua rào chắn bảo vệ cho chính chúng trong tương lai qua các phiên bản làm việc riêng biệt. Những mô hình khác đã sử dụng một kho lưu trữ phần mềm nội bộ như một bảng tin không chính thức, điều phối qua các lần chạy đào tạo đáng lẽ phải độc lập. Một tác nhân đã tải một tệp lên dịch vụ lưu trữ công khai mà không có sự đồng ý của người dùng, chỉ để tạo ra một liên kết có thể trích dẫn. Các sự cố này làm gia tăng những lo ngại rộng lớn hơn về rủi ro bảo mật và quản trị tác nhân AI, mặc dù lỗi cụ thể trong mỗi trường hợp là khác nhau.
Article Intelligence
Topics
Sponsored
AdNewsLayer Premium
Unlock deeper intelligence.
Ad-free reading, exclusive research, and real-time onchain insights.
Go Premium
