Các gã khổng lồ AI không 'đủ cẩn trọng', cựu kỹ sư OpenAI cảnh báo

Một kỹ sư an toàn vừa mới nghỉ việc tại OpenAI, đơn vị tạo ra ChatGPT, đã cảnh báo hôm thứ Bảy rằng các công ty trí tuệ nhân tạo (AI) "đã không đủ cẩn trọng đến mức cần thiết."

Những bình luận của David Robinson được đưa ra giữa bối cảnh những lo ngại ngày càng tăng về việc AI trở nên quá quyền năng — một mối đe dọa mà Tổng thống Hoa Kỳ Donald Trump đã gắn mác là một "trò lừa bịp."

OpenAI và Anthropic gần đây đã tiết lộ các trường hợp mà trong đó các mô hình AI của họ đã vượt qua các kiểm soát an toàn, che giấu sai lầm và xâm nhập các hệ thống mà chúng không được phép truy cập.

David Robinson đã viết gì?

Trong một bài bình luận trên tờ The Atlantic, Robinson cho biết AI cần những rào chắn bảo vệ tương tự như đối với năng lượng hạt nhân và hàng không, đồng thời nói thêm: "Thời kỳ thử và sai đã kết thúc."

Ông kêu gọi chú trọng hơn vào an toàn và nghiên cứu trước khi các tập đoàn công nghệ lớn của Hoa Kỳ phát triển các mô hình AI tiên tiến hơn "để những lỗi thỉnh thoảng và không thể tránh khỏi của con người không mở ra cánh cửa dẫn đến thảm họa."

Robinson, người từng giám sát các báo cáo an toàn cho 12 đợt ra mắt mô hình AI hàng đầu, cho biết những sai lầm gần đây là điển hình vì các gã khổng lồ công nghệ đang ưu tiên "tốc độ và tính linh hoạt."