'Suy nghĩ nội tâm' của mọi mô hình AI lớn bị phơi bày trong lỗ hổng nghiêm trọng

Tóm tắt

• Một nhóm nghiên cứu đã phát hiện ra rằng Anthropic, OpenAI và Google đều sử dụng một khóa mã hóa toàn cầu duy nhất cho các token suy luận AI.
• Bằng cách giải mã 315,320 khối suy luận được thu thập từ các kho lưu trữ GitHub và Hugging Face công khai, các nhà nghiên cứu đã khôi phục được 182 thông tin xác thực, bao gồm 62 khóa API đang hoạt động, 33 mật khẩu và 30 địa chỉ email cá nhân.
• OpenAI, Anthropic và Google đã triển khai các bản vá phía máy chủ sau khi báo cáo lỗ hổng có trách nhiệm, nhưng các nhật ký phiên lịch sử đã được chia sẻ công khai vẫn có thể giải mã được.

Các nhà nghiên cứu bảo mật đã tìm ra cách để đọc "suy nghĩ nội tâm" đã mã hóa của mọi mô hình suy luận AI lớn—và phát hiện ra 62 khóa API đang hoạt động cùng 33 mật khẩu bị vùi lấp trong các nhật ký phiên mà các nhà phát triển đã chia sẻ công khai trực tuyến mà không hề biết bên trong chứa gì.

“Bằng cách giải mã 315,320 khối suy luận được thu thập từ các kho lưu trữ công khai, chúng tôi đã khôi phục được 367 thông tin nhận dạng cá nhân (PII) và 182 thông tin xác thực,” các nhà nghiên cứu viết.

Bài báo, được nộp vào August 10 bởi một nhóm từ MATS Research, Viện ELLIS Tübingen, Viện Max Planck về Hệ thống Thông minh và công ty bảo mật Snyk, nhắm vào một loại AI cụ thể: các mô hình suy luận. Đây là những mô hình không chỉ trả lời ngay lập tức mà thay vào đó bắt đầu bằng một chuỗi suy nghĩ nội bộ (một bản nháp từng bước nơi AI giải quyết vấn đề trước khi hiển thị câu trả lời cho bạn), sau đó đưa ra phản hồi cuối cùng.