Google cho biết kẻ tấn công đã dùng tác nhân AI để đánh cắp thông tin xác thực trong chưa đầy sáu giờ

Các tác nhân đe dọa đã sử dụng một khung trí tuệ nhân tạo đa tác nhân để xâm phạm hàng nghìn thông tin xác thực trong vòng chưa đầy sáu giờ, Nhóm Tình báo Đe dọa Google của Google LLC cho biết trong một báo cáo được công bố hôm nay.

Các điều tra viên của Mandiant đã lần ra chiến dịch này từ một tác nhân bị nghi ngờ có động cơ tài chính, kẻ đầu tiên đã đột nhập vào cơ sở hạ tầng đám mây của một tổ chức. Kẻ tấn công sau đó đã lắp ráp một khung tự trị từ một chatbot lập trình AI, một lời nhắc và một bộ hướng dẫn tác nhân, với các cẩm nang markdown được cấu hình sẵn để thúc đẩy quá trình quét và thu thập dữ liệu sau đó.

Việc khắc phục sự cố và xoay vòng IP diễn ra mà không cần người vận hành. Lưu lượng truy cập rời khỏi chính địa chỉ của nạn nhân, vì vậy nó có vẻ hợp lệ khi đi ra ngoài.

Báo cáo có tiêu đề “Từ Lời nhắc đến Sự tự trị: Sự tiến hóa của AI đối nghịch”, đề cập đến hoạt động mà GTIG đã theo dõi trong quý hai. Nó tiếp nối phiên bản tháng Năm, vốn đã ghi nhận trường hợp xác nhận đầu tiên về việc tội phạm sử dụng AI để xây dựng một bản khai thác zero-day hoạt động được. GTIG cho biết điều đã thay đổi kể từ đó là sự tham gia của con người còn lại rất ít. Các đối thủ đang giao các quyết định nhiều bước cho các mô hình, điều này thu hẹp khoảng thời gian mà những người phòng thủ có để phản ứng.