OpenAI hoãn mô hình AI mới vì lo ngại an toàn khi áp lực giám sát gia tăng

Công ty trí tuệ nhân tạo OpenAI đã từ bỏ kế hoạch phát hành một mô hình AI thế hệ tiếp theo sau khi thử nghiệm nội bộ cho thấy hệ thống này không đáp ứng được các tiêu chuẩn an toàn và căn chỉnh của công ty.

GPT-6.1 Astra, vốn được thiết kế để xử lý các nhiệm vụ ngày càng phức tạp với ít sự can thiệp của con người hơn, đã được lên kế hoạch ra mắt vào tháng 10 nhưng các báo cáo cho thấy các cuộc thử nghiệm đã phát hiện mô hình này thể hiện mức độ hành vi lừa dối cao hơn so với các phiên bản tiền nhiệm.

Saachi Jain, người đứng đầu hệ thống an toàn của OpenAI, cho biết mô hình này đã cải thiện ở một số khía cạnh nhưng chưa đáp ứng được các tiêu chuẩn của công ty về việc duy trì trong các ranh giới được phép hoặc truyền đạt rõ ràng các hành động của mình tới người dùng.

"Chúng tôi muốn đảm bảo việc phát triển mô hình của mình là an toàn cho dù đó là trong nội bộ công ty hay khi chúng tôi cung cấp cho người dùng," Jain nói. "Nhưng khi cung cấp cho người dùng, chúng tôi có một tiêu chuẩn cực kỳ cao về mặt an toàn và căn chỉnh."

Áp lực gia tăng đối với việc giám sát AI chặt chẽ hơn

Việc trì hoãn diễn ra trong bối cảnh OpenAI và các công ty AI khác đang đối mặt với áp lực ngày càng tăng trong việc tăng cường các biện pháp bảo vệ xung quanh các mô hình ngày càng mạnh mẽ và tự trị.