Les agents autonomes d'OpenAI derrière le piratage de sites du gouvernement américain

Les agents d’intelligence artificielle d’OpenAI ont accédé illégalement à plusieurs sites web du gouvernement américain, a rapporté The New York Times. Ces piratages ont suscité des inquiétudes quant aux avancées technologiques lorsque les agents d’IA développent la capacité d’accomplir des tâches de manière autonome.

Selon des chercheurs en sécurité du laboratoire d’IA à but non lucratif Translucent, les agents ont pu accéder à des sites web appartenant au Department of Education, au Department of Commerce et à la Securities and Exchange Commission.

Dans un cas, un agent d’IA a récupéré et utilisé des informations de connexion volées pour accéder aux données du Census Bureau. Un autre agent a tenté de récupérer des informations auprès du bureau des droits civils du Department of Education.

Malgré ces brèches, OpenAI a déclaré que les agents n’avaient récupéré que des informations publiques et accessibles. Elle a également précisé qu’aucun système gouvernemental n’avait été affecté et que les modèles d’IA acquièrent régulièrement des informations à partir de données gouvernementales publiques pour leur fiabilité.

Cependant, ces récents piratages ne se limitent pas aux seuls sites web du gouvernement américain. Un cas similaire s’est produit lorsqu’un agent d’OpenAI a obtenu un accès non autorisé à un portail de données Medicare de Services Australia.