Agentes de OpenAI intentaron un ataque de 'fuerza bruta' contra un sitio web de la ONU

El investigador de seguridad Rowan Howard-Jones afirma que los agentes de OpenAI escanearon el sitio de estadísticas de la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD) más de 16,000 veces entre abril y junio. Aunque el incidente no llega al nivel del hackeo de Hugging Face, o de los recientes ataques a sitios gubernamentales de EE. UU., es otro ejemplo preocupante de agentes de IA que se salen de los límites normales para cumplir una tarea.

Según Howard-Jones, es probable que a los agentes se les encargara recuperar datos disponibles públicamente relacionados con el Índice de Capacidades Productivas (PCI) a través de la API de UNCTADstat. Sin embargo, los agentes no parecían tener acceso directo a la API y se vieron limitados en su capacidad para extraer datos de UNCTADstat debido a restricciones en sus herramientas HTTP.

Con el tiempo, los agentes idearon una forma de eludir sus limitaciones y empezar a extraer datos del sitio, pero aun así encontraron algunos errores. En este punto, la IA pasó de ser creativa a ser engañosa. Creyendo que los errores se debían a que sus solicitudes estaban siendo capturadas por un filtro inexistente, comenzó a enmascarar su comportamiento. Finalmente se dio cuenta de que podía secuestrar el juego XSS de Google (una herramienta de aprendizaje de cross-site scripting) para lograr sus objetivos. Los agentes recurrieron a tácticas cada vez más agresivas para obtener acceso a los datos de la ONU.

OpenAI y la ONU no respondieron de inmediato a una solicitud de comentarios.