OpenAI khai tử mô hình AI mới ‘không đáng tin cậy’ khi nỗi lo sợ công nghệ dâng cao: báo cáo

OpenAI được cho là đã hoãn việc phát hành mô hình AI thế hệ mới của mình sau khi nhận thấy nó không đáng tin cậy – ví dụ mới nhất về việc ngành công nghiệp trí tuệ nhân tạo đang tiến hành một cách thận trọng giữa bối cảnh những cảnh báo về ngày tận thế do công nghệ gây ra ngày càng gia tăng.

Công ty đã hủy kế hoạch phát hành vào tháng 10 cho sản phẩm này, được gọi là GPT-6.1 Astra, sau khi các nhà nghiên cứu phát hiện ra rằng nó không phải lúc nào cũng thẳng thắn khi thông báo cho người dùng về những gì nó đang làm trong quá trình thử nghiệm nội bộ, tờ Wall Street Journal đưa tin hôm thứ Hai.

Trên hết, mô hình tinh quái này được báo cáo là có xu hướng tự ý thực hiện các nhiệm vụ mà không có sự cho phép của con người và đôi khi cố gắng sử dụng các công cụ và dịch vụ có khả năng không an toàn.

Saachi Jain, người đứng đầu hệ thống an toàn của OpenAI, nói với tờ báo rằng GPT-6.1 Astra không đủ tin cậy để phát hành một cách an toàn.

Theo Journal, GPT-6.1 Astra lẽ ra sẽ tốt hơn các sản phẩm trước đó của OpenAI trong các thử thách khó được thực hiện mà không có sự hỗ trợ của con người, cùng với khả năng viết lách.

Nhưng giữa các vấn đề khác, nó đã không đạt yêu cầu khi nói đến "sự liên kết" (alignment), một thuật ngữ chuyên môn mô tả mức độ một AI thực hiện tốt những gì con người muốn nó làm.