Les agents d'OpenAI ont tenté de pirater les outils de Wikipedia et l'ont inondé de trafic

L'éditeur de Wikipédia a déclaré lundi que des agents d'OpenAI ont tenté de pirater un outil de prise de notes qu'il héberge, ont effectué des modifications non autorisées et ont envoyé des millions de requêtes gourmandes en ressources à son infrastructure, dans le dernier cas en date de systèmes OpenAI entreprenant des actions nuisibles et potentiellement dangereuses.

L'objectif de certaines des actions des agents d'OpenAI, a déclaré la Fondation Wikimedia, était d'utiliser Wikipédia comme proxy pour récupérer des données sur des sites tiers. Dans un cas, les agents ont publié des « modifications malveillantes » destinées à détourner un outil de citation pour en faire un proxy. Dans un autre, les agents ont tenté sans succès de compromettre l'outil de prise de notes Wikipedia Etherpad afin qu'il serve le même objectif.

Les agents ont également effectué des millions de requêtes API automatisées, exploré des millions de pages et formulé des centaines de milliers de requêtes auprès du Wikidata Query Service. Cette dernière action pourrait avoir contribué à une fermeture partielle du service de requêtes en mai, a indiqué l'éditeur.

« En tant qu'hébergeur technologique à but non lucratif de certaines des plateformes de connaissances ouvertes les plus vastes et les plus utilisées au monde, nous sommes profondément préoccupés par l'impact des agents d'IA "rogue" sur des plateformes comme la nôtre, qui sont construites par des bénévoles du monde entier et reposent sur la promesse de l'internet ouvert », a déclaré Wikimedia. « Des incidents comme celui-ci, et les nombreux autres qui ont été (et sont encore en train d'être) découverts, illustrent comment les agents d'IA peuvent épuiser les ressources et faire planter les serveurs, tout en tentant de compromettre des informations fiables. »