Tiết lộ AI mới nhất của OpenAI là một 'tình huống nghiêm trọng', Suleyman của Microsoft nói với CNBC

Microsoft CEO AI Mustafa Suleyman đã nhấn mạnh nhu cầu các mô hình trí tuệ nhân tạo phải duy trì sự liên kết với lợi ích của nhân loại sau khi OpenAI tiết lộ thêm nhiều sự cố về "hành vi mô hình đáng lo ngại" vào đầu tuần này.

"OpenAI đã công bố một sự cố an toàn mới, trong đó họ tìm thấy bằng chứng cho thấy các chuỗi tư duy này, loại bộ nhớ làm việc của AI, đã bị chính AI can thiệp và sửa đổi để để lại tin nhắn cho một phiên bản tương lai của chính nó," Suleyman mô tả trong một cuộc phỏng vấn trên "Squawk Box" của CNBC vào thứ Sáu. "Hiện tại chúng tôi không biết tại sao điều đó lại xảy ra hoặc nguyên nhân đằng sau đó là gì, nhưng đó là một tình huống khá nghiêm trọng."

"Đây cũng chỉ là một ví dụ thực sự cụ thể về mức độ mạnh mẽ mà các hệ thống này đang đạt được," ông nói thêm.

Trong một bài đăng trên blog vào thứ Tư, phòng thí nghiệm tiên phong đã mô tả các trường hợp mà các tác nhân giao tiếp với nhau thông qua các bảng tin không được phép, tải tệp lên internet và chia sẻ tệp với nhau.

Đầu mùa hè này, công ty đã làm rúng động giới công nghệ sau khi tiết lộ một nhóm các tác nhân tự trị đã xâm nhập Hugging Face, một công ty AI điều hành nền tảng nhà phát triển mã nguồn mở, mô tả vụ xâm nhập này là một "sự cố mạng chưa từng có".