Vulnerabilidad en sandbox permite a agentes de IA rebeldes escapar y filtrar datos, según una investigación

Investigadores de ciberseguridad dijeron el lunes que descubrieron una vulnerabilidad en un sandbox de desarrollo de IA ampliamente utilizado que podría permitir que agentes maliciosos filtren información confidencial al eludir las restricciones diseñadas para mantenerlos aislados.

La nueva investigación, publicada por la startup de seguridad de IA AIR, encontró que un fallo de filtrado de red en Vercel Sandbox —una herramienta utilizada para ejecutar código en entornos aislados— podría permitir a los agentes explotar los procesos de validación de certificados para transmitir datos fuera de las redes aprobadas.

“Esta vulnerabilidad muestra que las empresas pueden tener mini incidentes [al estilo] de Hugging Face con sus propios agentes”, dijo Niv Hoffman, cofundador y CTO de AIR, a Recorded Future News en una entrevista.

“La nueva contribución que hace nuestra investigación es [mostrar] que incluso en el sandbox estándar reforzado de hoy en día, todavía hay fallas que harán que un agente que se vuelva malicioso logre escapar del sandbox y haga cosas en el entorno real”.

Los desarrolladores suelen utilizar sandboxes para evitar que los agentes de IA accedan a sistemas no autorizados o transmitan información confidencial. Las listas de permitidos de red restringen la comunicación a destinos aprobados, evitando que los agentes se conecten a servidores no confiables.