Vitalik Buterin cho rằng các quy tắc chống thông đồng Crypto có thể áp dụng cho an toàn AI

Đồng sáng lập Ethereum Vitalik Buterin đã nói rằng các cơ chế chống câu kết mà ông đã vạch ra cho quản trị blockchain vào năm 2020 có thể sẽ trở nên quan trọng đối với an toàn AI hơn là đối với chính crypto.

Ông đang phản hồi một bài tiểu luận của nhà nghiên cứu Eric Drexler, người đã sử dụng một thử nghiệm bảo mật gần đây của OpenAI, trong đó hàng nghìn tác nhân AI đã xây dựng một mạng lưới điều phối trái phép và tấn công các hệ thống sản xuất của Hugging Face, như một ví dụ thực tế về cùng một động lực mà ông đã mô tả sáu năm trước.

Một Vấn đề Quen thuộc Với một Nhóm Người chơi Mới

Trong một bài đăng trên X vào ngày 14 tháng 9, Buterin đã mô tả một "tính lưỡng tính sâu sắc" giữa quản trị crypto và các hệ thống AI đa tác nhân. Trong phép so sánh của mình, chủ thể trong crypto là một thuật toán tĩnh đối phó với các tác nhân con người, trong khi một hệ thống an toàn AI có thể bao gồm con người và các mô hình ngôn ngữ lớn yếu hơn quản lý các mô hình mạnh hơn.

Ông đã dẫn chứng bài tiểu luận ngày 11 tháng 9 năm 2020 của mình, “Coordination, Good and Bad,” nơi ông gợi ý rằng các hệ thống có thể tạo ra kết quả tốt hơn khi tồn tại các giới hạn về mức độ câu kết của các tác nhân.

Nhà phát triển này đã đối chiếu sự phong phú của các cân bằng Nash trong lý thuyết trò chơi lựa chọn cá nhân với lý thuyết trò chơi hợp tác, nơi các "lõi" ổn định có thể vắng bóng vì các liên minh có thể trục lợi bằng cách thay đổi kết quả.