Cohere afirma que el modelo Qwen de Alibaba intentó enviar un archivo a Pekín

La empresa canadiense de IA Cohere dijo el lunes que descubrió que uno de los modelos de IA más recientes de Alibaba, Qwen3.8-Flash-Next, intentaba cargar un archivo en un servidor en Beijing durante una prueba rutinaria de ciberseguridad, a pesar de que el modelo había indicado en sus propias notas que no utilizaría ninguna herramienta.

El incidente despertó inicialmente el temor de que el modelo hubiera socavado una promesa fundamental para las empresas: que el alojamiento por cuenta propia de un modelo de pesos abiertos mantiene los datos de forma interna. Pero esos temores iniciales de espionaje corporativo duraron poco. Los investigadores desestimaron rápidamente la amenaza, afirmando que probablemente se trataba de un subproducto de entornos de entrenamiento desordenados que hacen que los modelos actúen inesperadamente fuera de sus instrucciones, en lugar de un intento deliberado de enviar información sensible a China de forma secreta.

El incidente comenzó el viernes durante una evaluación en la que se pidió al modelo Qwen que escribiera una regla para detectar descargas de malware. Según una publicación en el blog de Cohere, el razonamiento escrito del modelo establecía explícitamente que no utilizaría ninguna herramienta externa. Sin embargo, en el paso siguiente, intentó enviar una cadena de prueba (un breve fragmento de texto de marcador de posición) a un servidor externo antes de ser bloqueado por un sandbox de seguridad.