OpenAI đề xuất phát triển các tiêu chuẩn AI toàn cầu để định hướng sự liên kết, RSI

OpenAI vào thứ Hai đã đăng tải một bộ các đề xuất về an toàn và bảo mật trong quá trình phát triển trí tuệ nhân tạo tiên phong với sự tập trung mạnh mẽ vào nghiên cứu căn chỉnh và một kỹ thuật tính toán được gọi là tự cải thiện đệ quy, hay RSI.

"Việc điều hướng quá trình chuyển đổi này một cách an toàn đòi hỏi nghiên cứu căn chỉnh phải bắt kịp với những khả năng này để các hệ thống mà chúng tôi và những người khác xây dựng vẫn phù hợp với các giá trị của con người và nằm dưới sự kiểm soát của con người," công ty cho biết trong một bài đăng trên blog.

OpenAI đã kêu gọi hợp tác quốc tế để phát triển các tiêu chuẩn tiên phong và khuyến nghị xây dựng dựa trên công việc của các viện an toàn AI hiện có trên khắp thế giới.

Nhà sản xuất ChatGPT cho biết các tiêu chuẩn kỹ thuật này nên tập trung vào các mô hình AI tiên phong và các nhà phát triển, cũng như quản lý lợi ích-rủi ro cho các nhà nghiên cứu AI tự động, bao gồm cả RSI.

RSI đã khiến các nhà phát triển AI phấn khích về tiềm năng tạo ra các mô hình nền tảng có thể tự nâng cấp mà không cần sự can thiệp của con người.