Lãnh đạo OpenAI kêu gọi thận trọng trong đàm phán AI Mỹ-Trung, cảnh báo về distillation

Một giám đốc điều hành của OpenAI đã kêu gọi sự thận trọng trong các cuộc thảo luận về trí tuệ nhân tạo giữa Trung Quốc và Hoa Kỳ, đồng thời cảnh báo về những rủi ro của việc chưng cất mô hình AI, theo South China Morning Post. Các nhận xét này chỉ ra mối quan ngại tiếp tục về việc các khả năng AI tiên tiến có thể di chuyển xuyên biên giới như thế nào khi sự cạnh tranh giữa hai quốc gia ngày càng gay gắt.

Chưng cất mô hình là một kỹ thuật trong đó một hệ thống nhỏ hơn được đào tạo để tái tạo các khía cạnh hành vi của một mô hình lớn hơn. Nó có thể được sử dụng cho các mục đích nghiên cứu và hiệu quả hợp pháp, nhưng các nhà phát triển AI cũng có thể coi đó là một lộ trình tiềm năng để sao chép các khả năng mô hình có giá trị mà không cần truy cập trực tiếp vào hệ thống ban đầu hoặc công việc đào tạo cơ bản của nó.

Các bình luận được đưa ra trong bối cảnh cuộc tranh luận rộng lớn hơn về quản trị AI, kiểm soát xuất khẩu, bảo mật mô hình và hợp tác quốc tế. Hoa Kỳ và Trung Quốc là những cường quốc AI lớn, và các cuộc đàm phán giữa họ có thể bao gồm cả cơ hội cho các tiêu chuẩn an toàn chung và những bất đồng về quyền truy cập công nghệ, an ninh quốc gia và cạnh tranh thương mại.

OpenAI là một trong những nhà phát triển hệ thống AI tạo sinh nổi bật nhất. Cảnh báo của giám đốc điều hành này nhấn mạnh sự nhạy cảm của việc tham gia AI xuyên biên giới, đặc biệt là khi các cuộc thảo luận về hợp tác chồng lấn với những lo ngại về việc bảo vệ các mô hình tiên tiến và ngăn chặn việc chuyển giao năng lực trái phép.