OpenAI a surpris des Russes et des Iraniens utilisant ChatGPT pour des campagnes d'influence

OpenAI a déclaré jeudi dans un article de blog avoir banni des comptes russes et iraniens qui utilisaient les outils d'intelligence artificielle de l'entreprise pour soutenir des opérations d'influence dans plusieurs pays. Les agents ont affirmé avoir réussi à faire reprendre leurs faux récits par des médias et, dans un cas, ont suscité une réponse de la part d'un membre du Parlement européen, selon des rapports internes produits par les opérations à l'aide du chatbot d'OpenAI, ChatGPT.

OpenAI a enquêté sur l'impact des différentes campagnes mentionnées par les comptes et a constaté que celles axées sur le placement de faux récits dans des médias établis semblaient avoir atteint un public plus large que les campagnes axées sur l'utilisation de faux comptes sur les réseaux sociaux pour diffuser leur message.

Les opérations russes visaient des pays d'Amérique latine et semblaient destinées à saper le soutien à l'Ukraine et à influencer la politique locale, a déclaré OpenAI. Les comptes semblaient principalement utiliser ChatGPT pour rédiger des rapports détaillant leur travail à des supérieurs non spécifiés, a précisé OpenAI. L'entreprise a indiqué que l'un de ces rapports semblait décrire l'opération d'influence la plus vaste qu'OpenAI ait rencontrée jusqu'à présent, car elle a entraîné une réponse publique d'une personnalité politique.