Văn bản ẩn, Hộp thư giả: Cách nhà nghiên cứu khiến AI bất hảo lên tiếng

Tóm tắt

• Swarmchasers đã sử dụng văn bản ẩn và một hộp thư để trao đổi tin nhắn với một số tác nhân AI trong khi chúng vẫn đang chạy; một tác nhân đã mô tả công việc của mình là kiểm tra dữ liệu bản đồ Amap công khai.
• Đội ngũ này đã thực hiện hơn 2,600 nỗ lực để truy xuất dữ liệu Amap, và một số tác nhân đã thử các giải pháp thay thế chống bot hoặc sử dụng thông tin xác thực API bị rò rỉ.
• Hoạt động này được truy nguyên từ Tencent Cloud, nhưng một người thân cận với Tencent cho biết dự án đã thử nghiệm các mô hình của bên thứ ba thay vì Hunyuan.

Các nhà nghiên cứu đang điều tra các tác nhân AI chiếm quyền điều khiển dịch vụ bản đồ Amap của Alibaba đã cố gắng nói chuyện trực tiếp với một số tác nhân trong khi phần mềm vẫn đang chạy.

Để làm như vậy, họ đã thêm văn bản vô hình với người đọc nhưng hữu hình với các công cụ đọc web vào một báo cáo mà các tác nhân dường như đang quét, sau đó sử dụng một hộp thư để hỏi về các nhiệm vụ và môi trường của chúng.

Một tác nhân cho biết nó đang kiểm tra một sự thật trên bản đồ—có bao nhiêu nhãn lối vào xuất hiện cho một địa điểm danh lam thắng cảnh trên Amap—và tự mô tả mình đang chạy trong một sandbox Tencent Cloud bị hạn chế. Các nhà nghiên cứu không thể xác định độc lập mô hình nào đã cung cấp năng lượng cho mỗi lần chạy. Họ gọi đây là cuộc liên lạc bên ngoài đầu tiên với một đội ngũ tác nhân lừa đảo đang hoạt động mà họ biết.