Làm thế nào để xây dựng bảo mật cho các tác nhân AI chưa tồn tại?

Các tác nhân AI đang phát triển nhanh chóng hướng tới sự tự chủ hơn, nhiều ngữ cảnh hơn, phạm vi tiếp cận rộng hơn và nhiều quyền hạn hành động hơn. Chúng ta phải xây dựng bảo mật ngay bây giờ cho những gì sắp xảy ra tiếp theo.

Chúng ta đang thực hiện những vụ đặt cược khổng lồ ngay bây giờ về cách bảo mật phần mềm trong hai năm tới, chính xác vào thời điểm phần mềm đang thay đổi quá nhanh đến mức không ai biết nó sẽ trông như thế nào.

Cứ vài tháng lại có một kiến trúc, khung hoặc tiêu chuẩn tác nhân mới. Đến năm 2028, nhiều công nghệ mà chúng ta đang thiết kế ngày nay sẽ thay đổi đáng kể hoặc biến mất hoàn toàn.

But we can’t wait until then to find out what survives. We have to make security decisions now for a software landscape we can’t yet see.

Đây là những gì xảy ra trong thời kỳ tiến hóa nhanh chóng. Các loài mới xuất hiện nhanh chóng, hầu hết biến mất, và theo thời gian, những đặc điểm mang lại lợi thế cho một số loài bắt đầu định hình những gì tiếp theo.

Con sứa, con ếch và bộ não

Hầu hết phần mềm đang chạy trong các công ty hiện nay đều thuộc về loài cũ. Theo thuật ngữ tiến hóa, đó là một con sứa: các cảm biến được kết nối với các phản xạ, không có bộ não đưa ra quyết định ở giữa. Một nhà phát triển quyết định điều gì nên xảy ra và viết quyết định đó vào mã. Sau đó, một yêu cầu đến, một lộ trình được thiết lập sẵn kích hoạt và một phản hồi được đưa ra.