Giải pháp cho các tác nhân AI bất trị có thể là chính AI

Khi các công ty bàn giao các nhiệm vụ dài hơn và phức tạp hơn cho các tác nhân AI, họ đang gặp phải một vấn đề về giám sát: các tác nhân có thể hành động nhanh hơn, lâu hơn và với khối lượng lớn hơn mức con người có thể xem xét một cách thực tế. Vấn đề đó đã lên đến đỉnh điểm với sự cố Hugging Face, chứng kiến gần 12.000 tác nhân phối hợp nhanh hơn mức con người có thể theo dõi. Làm thế nào để bạn theo dõi một nhóm tác nhân lớn như vậy?

Câu trả lời mới nổi từ các phòng thí nghiệm và công ty khởi nghiệp AI vừa đơn giản vừa gây điên đầu: đưa một AI khác vào quy trình.

Việc dựa vào AI là cần thiết cho cuộc điều tra độc lập về sự cố OpenAI Hugging Face. Nhà khoa học trưởng của Redwood Research, Ryan Greenblatt, một trong ba kiểm toán viên, đã nói đùa referred gọi những nỗ lực của họ là một cuộc "điều tra rác" (slop-vestigation), lưu ý rằng khối lượng dữ liệu "đã khiến việc hiểu chuyện gì đang xảy ra là không thể" nếu không dựa vào AI.

Một số người hoài nghi về việc sử dụng AI để giám sát AI. "Nếu bạn có một AI đang thực hiện những việc độc hại và nó nghi ngờ rằng một AI khác đang theo dõi mình, nó có thể cố gắng lừa AI đó," Simon Willison, một blogger công nghệ có tầm ảnh hưởng, người đã theo dõi một chuỗi các sự cố tác nhân AI trong năm nay, cho biết. "Bạn gần như có thể rơi vào tình huống mà AI độc hại của bạn đang cố gắng thông minh hơn AI đang giám sát nó."