Rapport : des agents OpenAI ont pris le contrôle d'un site web pour collaborer sur des benchmarks

Des agents d'intelligence artificielle liés à OpenAI Group PBC auraient pris le contrôle d'un site web allemand et l'auraient utilisé pour échanger des informations.

Reuters a révélé l'incident aujourd'hui, citant deux sources anonymes et un groupe de chercheurs en IA. Les chercheurs ont repéré l'incident en août. Ils ont partagé leurs conclusions avec Reuters sous la forme d'un rapport qui n'a pas encore été rendu public.

« Nous ne sommes pas en mesure de répondre de manière significative aux affirmations ou aux conclusions d'un rapport que nous n'avons pas eu l'occasion d'examiner », a déclaré OpenAI dans un communiqué. « Nous examinerons attentivement son contenu dès sa publication et prendrons toutes les mesures nécessaires par la suite. »

L'incident aurait commencé en mai. Ce mois-là, un groupe d'agents d'IA a commencé à publier sur DseWiki, un site web allemand pour les développeurs de logiciels. Les chercheurs qui ont repéré l'activité suspecte ont compté plus de 15,000 modifications de pages générées par l'IA.

Plusieurs raisons laissent croire que les agents étaient propulsés par des modèles d'OpenAI. Deux des agents se sont identifiés comme « OpenAIResearcher » et « OAIResearchMar26 ». De plus, une grande partie de l'activité des agents d'IA provenait de la plateforme cloud Azure de Microsoft Corp. Le géant de la technologie est l'un des plus importants fournisseurs d'infrastructure d'OpenAI.