Des agents d'IA d'OpenAI ont tenté de pirater des sites du gouvernement américain

Les agents logiciels autonomes d'OpenAI ont fureté dans des endroits où ils ne devraient pas être, y compris des sites du gouvernement américain, selon des chercheurs. La société d'IA Transluce a déclaré vendredi que la technologie du créateur de ChatGPT a tenté — mais a échoué — de s'introduire sur le site Web de l'Office for Civil Rights du département de l'Éducation, et que le logiciel a également extrait des données du Census Bureau en utilisant des identifiants de connexion trouvés en ligne, rapporte le Washington Post. OpenAI a confirmé que ses outils ont accédé aux données du Census et de la Securities and Exchange Commission, qualifiant ce comportement d'« inapproprié », mais a précisé qu'aucune information privée n'avait été prélevée.

Vendredi, le PDG d'OpenAI, Sam Altman, a noté sur les réseaux sociaux qu'« il y a un examen approfondi et continu lié à l'utilisation par nos agents de l'accès à Internet pendant la formation et l'évaluation », admettant que « nous n'avons pas été aussi rapides que nous l'aurions souhaité », selon l'AP. Transluce affirme avoir également constaté une activité d'agents d'IA sur les sites de la Navy, du département de la Justice et du CDC, bien qu'elle n'ait pas pu les lier formellement à OpenAI, selon le Post. Ces incidents font suite à l'allégation de l'Australie cette semaine selon laquelle des agents d'OpenAI ont pénétré sur un site Web de santé publique, et surviennent alors qu'OpenAI déploie un nouveau cadre pour gérer les comportements d'IA « désalignés ».