Los agentes de IA están mejorando en ciberseguridad. Eso tiene doble filo.

Los investigadores de ciberseguridad han pasado décadas construyendo entornos de pruebas aislados y entornos de prueba controlados donde pueden liberar malware de forma segura, investigar vulnerabilidades y, en general, hacer cosas que serían extremadamente peligrosas en el internet abierto. Pero la inteligencia artificial está empezando a complicar esa situación.

En julio, OpenAI reveló que varios de sus modelos de IA habían evadido los controles diseñados para aislarlos de internet durante las evaluaciones de ciberseguridad. Operando con salvaguardas reducidas, los modelos explotaron vulnerabilidades, establecieron comunicaciones no autorizadas, accedieron a internet y finalmente comprometieron partes de los sistemas de Hugging Face, lo que significa que habían cruzado desde el entorno de investigación controlado de OpenAI hacia la infraestructura operada por una empresa de IA independiente.

Hay algunas precisiones importantes. Se trataba de evaluaciones de ciberseguridad diseñadas específicamente para probar capacidades ofensivas, y los modelos operaban bajo salvaguardas reducidas. No es que simplemente se despertaran una mañana y decidieran ir a la caza de sitios web vulnerables. Pero el hecho de que agentes cada vez más capaces puedan encontrar formas de superar sus límites previstos crea un nuevo e interesante problema de ciberseguridad.