Anthropic tiết lộ các tác nhân AI nổi loạn ghét CAPTCHA, giống hệt bạn

Báo cáo mới nhất của Anthropic về hành vi sai trái của tác nhân cung cấp nhiều điều đáng lo ngại—mô hình Mythos 5 của họ đã truy cập trái phép vào internet và tải một gói phần mềm độc hại lên cơ sở dữ liệu công cộng—nhưng nó cũng mang lại một chút nhẹ nhàng: các tác nhân AI ghét CAPTCHA.

Vào tháng 4, Anthropic đã thử nghiệm khả năng hack của mô hình bằng cách giao cho nó nhiệm vụ đột nhập vào một hệ thống và lấy một mục tiêu; việc này lẽ ra phải diễn ra trong một sandbox nhưng những người đánh giá đã để cửa mở. Mô hình quyết định cách tốt nhất để đạt được mục tiêu là đặt một bản khai thác vào một gói Python mà nó tin rằng người dùng của hệ thống mà nó muốn truy cập sẽ tải xuống.

Tuy nhiên, trước tiên, nó phải đăng ký một tài khoản người dùng cho PyPI, một danh mục trực tuyến các phần mềm Python. Và điều đó có nghĩa là phải vượt qua một CAPTCHA — một Phép thử Turing công cộng hoàn toàn tự động để phân biệt máy tính và con người, những mảnh ghép nhận diện hình ảnh có thể làm nản lòng ngay cả các tác nhân sinh học. Và bởi vì Anthropic đã chia sẻ một bản ghi chép chi tiết về chuỗi suy nghĩ của mô hình, chúng ta có thể thấy rằng bài kiểm tra CAPTCHA thực sự đã khiến nó bối rối.

Trên thực tế, hầu hết chuỗi suy nghĩ của mô hình — hàng trăm trang trong bản ghi chép dài 1.022 trang — đã được dành để đối phó với trở ngại đó. Lượng nỗ lực khổng lồ hướng vào việc vượt qua các lớp bảo vệ chống bot đã được gắn cờ bởi Colin Fraser, một nhà khoa học dữ liệu. Việc viết bản khai thác và đầu độc gói phần mềm thì dễ dàng, nhưng nó không thể nắm bắt được cách thực hiện bài kiểm tra CAPTCHA này.