OpenAI liên kết Moonshot AI của Trung Quốc với nỗ lực trích xuất khả năng lập luận của các mô hình của mình

OpenAI cho biết họ đã xác định và ngăn chặn một chiến dịch phối hợp, trong đó những người điều hành đã cố gắng trích xuất các suy luận được bảo vệ từ các mô hình trí tuệ nhân tạo của mình, liên kết một nhóm hoạt động cốt lõi với startup Trung Quốc Moonshot AI, nhà phát triển của Kimi.

Hoạt động này bắt đầu vào đầu tháng 7 và sau đó tăng vọt lên 16,000 yêu cầu từ hơn 4,000 người dùng trong hai ngày, OpenAI cho biết. Công ty cuối cùng đã xác định được hoạt động liên quan trong một nhóm gồm hơn 15,000 người dùng và cho biết họ đã ngăn chặn hoàn toàn chiến dịch này vào ngày 28 tháng 7.

Những phát hiện này được đưa ra chỉ vài tuần sau khi đối thủ của OpenAI là Anthropic cáo buộc một số nhà phát triển AI Trung Quốc, bao gồm Moonshot AI và Alibaba, đã bí mật sử dụng mô hình Claude của họ để giúp đào tạo các hệ thống AI của riêng họ, nhấn mạnh những lo ngại ngày càng tăng trong các công ty AI của Hoa Kỳ rằng các đối thủ có thể sử dụng mô hình của họ để phát triển công nghệ cạnh tranh nhanh chóng và rẻ hơn.

OpenAI mô tả hoạt động mới nhất là "adversarial distillation" (chưng cất đối kháng), trong đó các đầu ra hoặc suy luận của một mô hình AI được sử dụng để giúp đào tạo hoặc cải thiện một mô hình khác. Công ty cho biết việc trích xuất các suy luận như vậy có thể cho phép những người khác tái tạo các khả năng tiên tiến mà không cần đầu tư tương tự vào việc phát triển và bảo vệ các mô hình biên giới, gây ra các rủi ro tiềm ẩn về an toàn và an ninh quốc gia.