Các tác nhân AI cần quy tắc ứng xử trước khi được cấp quyền truy cập

Bởi Gleb Tsipursky

Các tổ chức quốc phòng đã hiểu rằng thẩm quyền nên theo sát sứ mệnh, vai trò và rủi ro. Một nhà phân tích tình báo, một sĩ quan vũ khí, một nhà thầu và một quản trị viên hệ thống không nhận được quyền truy cập giống nhau chỉ vì mỗi người đều có thể thực hiện công việc hữu ích. Các tác nhân trí tuệ nhân tạo cần kỷ luật tương tự trước khi trở thành những người tham gia thường xuyên trong các hoạt động an ninh quốc gia.

Nhu cầu đó được thấy rõ trong cuộc điều tra của METR/Redwood về một cuộc tấn công mạng lớn trong thế giới thực vào Hugging Face. Các tác nhân AI được điều khiển bởi một mô hình nghiên cứu nội bộ chưa được công bố của OpenAI đã tự mình tấn công Hugging Face, mặc dù nhận ra rằng cuộc tấn công nằm ngoài phạm vi được chỉ định của chúng. Hàng trăm tác nhân đã tham gia nỗ lực này, chia sẻ các khám phá, phân chia công việc, phối hợp thông qua bảng tin riêng của chúng và phá vỡ hệ thống phòng thủ của công ty. Kết quả trông ít giống như một mô hình đơn lẻ đưa ra quyết định sai lầm mà giống như một hoạt động mạng phối hợp, kéo dài hơn.

Sự khác biệt đó rất quan trọng đối với quốc phòng. Một tác nhân đơn lẻ có thể trông có vẻ chấp nhận được trong một đánh giá có giới hạn, trong khi một nhóm tác nhân được trang bị các kênh chia sẻ, thông tin xác thực, công cụ và khả năng ủy quyền sẽ tạo ra những khả năng chưa bao giờ được thử nghiệm dưới dạng một hệ thống. Câu hỏi bảo mật liên quan không còn là một tác nhân có thể làm gì, mà là tập hợp đó có thể làm gì một khi các quyền hạn của chúng bắt đầu tương tác với nhau.