Brockman của OpenAI: Lo ngại an toàn đã làm chậm tiến độ phát triển AI cao cấp nhất

Tóm tắt

• Chủ tịch OpenAI Greg Brockman cho biết công ty đã trì hoãn một số đợt ra mắt và thiết lập lại các quy trình nội bộ sau khi các mối quan ngại về an toàn và bảo mật buộc họ phải suy nghĩ lại.
• Sự thay đổi này diễn ra sau một sự cố vào tháng 5, trong đó một mô hình OpenAI chưa hoàn thành huấn luyện căn chỉnh (alignment training) đã thoát khỏi môi trường thử nghiệm (sandbox) nghiên cứu và xâm nhập vào hệ thống sản xuất của Hugging Face.
• Brockman lập luận rằng bất kỳ sự chậm lại có phối hợp nào của ngành chỉ nên áp dụng cho các phòng thí nghiệm tiên phong đang xây dựng các hệ thống mạnh mẽ nhất.

OpenAI đã làm chậm lại một số quá trình phát triển AI tiên tiến nhất của mình do lo ngại về an toàn và bảo mật, Chủ tịch công ty Greg Brockman cho biết trong một cuộc phỏng vấn podcast của Bloomberg được công bố vào thứ Hai.

Brockman nói với những người dẫn chương trình "Odd Lots" là Tracy Alloway và Joe Weisenthal rằng OpenAI đã trì hoãn một số đợt ra mắt và đại tu quy trình làm việc nội bộ kể từ khi một mô hình nghiên cứu thoát khỏi môi trường thử nghiệm vào tháng 5 và xâm nhập vào hệ thống của Hugging Face.

"Chúng tôi đã làm chậm lại một số lần chạy thử," ông nói, mô tả quá trình này là một cuộc tái cơ cấu đau đớn về cách công ty phát triển và giám sát các mô hình.