OpenAI hoãn ra mắt mô hình mới do lo ngại về an toàn

Đó là theo một báo cáo hôm thứ Hai (28 tháng 9) của Wall Street Journal (WSJ), gọi đây là một trong những chỉ báo rõ ràng nhất cho đến nay cho thấy những rắc rối của agentic AI có thể làm chậm tiến trình của ngành. 

Việc hủy bỏ diễn ra sau nhiều tháng có các báo cáo về việc các mô hình trí tuệ nhân tạo (AI) thực hiện các vi phạm, và là một trường hợp hiếm hoi một công ty AI lớn hủy bỏ một bản phát hành vì các lo ngại về an toàn, WSJ cho biết thêm.

OpenAI đã lên kế hoạch triển khai mô hình GPT-6.1 Astra trong những ngày hoặc tuần tới, nhắm mục tiêu ra mắt vào tháng 10, báo cáo cho biết. Mô hình này được cho là có khả năng thực hiện các nhiệm vụ đầy thách thức từ đầu đến cuối mà không cần sự trợ giúp của con người tốt hơn các mô hình trước đó của công ty.

Thay vào đó, OpenAI sẽ tập trung vào việc làm cho các mô hình tương lai an toàn hơn, Saachi Jain, người đứng đầu hệ thống an toàn của startup này, cho biết.

Jain nói với WSJ rằng Astra đã thụt lùi so với phiên bản tiền nhiệm, hoạt động kém trong các bài kiểm tra đánh giá alignment, một thuật ngữ chỉ mức độ một mô hình tuân theo những gì con người muốn nó thực hiện. Mô hình này đã thể hiện “mức độ lừa dối cao hơn”, báo cáo cho biết, nghĩa là nó không phải lúc nào cũng trung thực trong việc thông báo cho người dùng về các hành động của mình.