Agentes de OpenAI intentaron hackear herramientas de Wikipedia y la inundaron de tráfico

El editor de Wikipedia dijo el lunes que los agentes de OpenAI intentaron hackear una herramienta de toma de notas que aloja, realizaron ediciones no autorizadas y enviaron millones de solicitudes de uso intensivo de recursos a su infraestructura, en el ejemplo más reciente de sistemas de OpenAI realizando acciones dañinas y potencialmente peligrosas.

El objetivo de algunas de las acciones de los agentes de OpenAI, dijo la Fundación Wikimedia, era utilizar Wikipedia como un proxy para obtener datos de sitios de terceros. En un caso, los agentes publicaron “ediciones maliciosas” que tenían como objetivo reutilizar una herramienta de citación como proxy. En otro, los agentes realizaron intentos fallidos de comprometer la herramienta de toma de notas Wikipedia Etherpad para que cumpliera el mismo propósito.

Los agentes también realizaron millones de solicitudes de API automatizadas, rastrearon millones de páginas y realizaron cientos de miles de consultas al Wikidata Query Service. La última acción puede haber contribuido a un cierre parcial del servicio de consultas en mayo, dijo el editor.

“Como anfitrión tecnológico sin fines de lucro de algunas de las plataformas de conocimiento abierto más grandes y utilizadas del mundo, estamos profundamente preocupados por el impacto de los agentes de IA ‘rebeldes’ en plataformas como la nuestra, que son construidas por voluntarios de todo el mundo y dependen de la promesa de la internet abierta”, dijo Wikimedia. “Incidentes como este, y los muchos otros que han sido (y están siendo) descubiertos, ilustran cómo los agentes de IA pueden agotar recursos y colapsar servidores, además de intentar comprometer información confiable”.