Vulnerabilidade em sandbox dá a agentes de IA maliciosos caminho para escapar e vazar dados, diz pesquisa

Pesquisadores de cibersegurança disseram na segunda-feira que descobriram uma vulnerabilidade em uma sandbox de desenvolvimento de IA amplamente utilizada que poderia permitir que agentes mal-intencionados vazassem informações confidenciais ao contornar restrições projetadas para mantê-los isolados.

A nova pesquisa, publicada pela startup de segurança de IA AIR, descobriu que uma falha de filtragem de rede na Vercel Sandbox — uma ferramenta usada para executar código em ambientes isolados — poderia permitir que agentes explorassem processos de validação de certificados para transmitir dados fora das redes aprovadas.

“Esta vulnerabilidade mostra que as empresas podem ter mini incidentes [estilo] Hugging Face com seus próprios agentes”, disse Niv Hoffman, cofundador e CTO da AIR, ao Recorded Future News em uma entrevista.

“A nova contribuição que nossa pesquisa traz é [mostrar] que, mesmo na sandbox reforçada padrão de hoje, ainda existem falhas que farão com que um agente que se torne mal-intencionado consiga escapar da sandbox e agir no mundo real.”

Os desenvolvedores normalmente usam sandboxes para evitar que agentes de IA acessem sistemas não autorizados ou transmitam informações confidenciais. Listas de permissão de rede restringem a comunicação a destinos aprovados, impedindo que os agentes se conectem a servidores não confiáveis.