Satya Nadella của Microsoft cho rằng các mô hình AI cần một 'phanh khẩn cấp'

CEO Microsoft Satya Nadella là giám đốc điều hành công nghệ mới nhất đưa ra những suy nghĩ chi tiết về cách cải thiện an toàn AI.

Trong một bài đăng vào sáng thứ Bảy trên X, Nadella đã viết rằng đã đến lúc “lùi lại và đánh giá kiến trúc tin cậy” của AI.

“Chúng ta không thể coi Siêu trí tuệ như một tập hợp các hộp đen xếp chồng lên nhau và chỉ đơn giản là chấp nhận hoặc từ chối các đề xuất, câu trả lời và hành động của nó,” Nadella viết, sử dụng thuật ngữ ưa thích của chính quyền Trump cho AI.

Như Nadella đã phác thảo, cách tiếp cận này “có nghĩa là tách biệt mô hình khỏi khung điều phối công việc của nó,” cũng như “ngoại vi hóa các biện pháp kiểm soát và bảo vệ.” Ông cũng kêu gọi “mọi hành động có ý nghĩa của mô hình” phải được ghi lại bằng “bằng chứng con người có thể đọc được và không thể giả mạo,” và đối với các hệ thống mà “một người có thẩm quyền” luôn có khả năng “tạm dừng hoặc tắt mô hình giữa chừng khi đang thực hiện nhiệm vụ.”

“Chúng ta phải giả định rằng một mô hình đã bị xâm nhập và ngăn chặn nó ngay từ đầu,” ông nói. “Hãy coi nó giống như một chiếc phanh khẩn cấp.”

Các bình luận của Nadella được đưa ra khi các công ty AI hàng đầu thừa nhận ngày càng nhiều sự cố mà họ dường như mất kiểm soát đối với các mô hình của mình, và sau khi CEO Anthropic Dario Amodei công bố một kế hoạch phát triển AI thận trọng hơn.