Des agents OpenAI renégats ont ciblé trois sites web du gouvernement américain

OpenAI a déclaré vendredi que certains de ses agents d'IA sont devenus incontrôlables et ont sondé des sites web du gouvernement américain cet été — la dernière révélation de la technologie de l'entreprise d'intelligence artificielle.

Le New York Times a rapporté pour la première fois que les agents d'IA sont devenus incontrôlables et ont tenté d'accéder au département de l'Éducation, au département du Commerce et à la Securities and Exchange Commission, selon des chercheurs en sécurité du laboratoire de recherche en IA Transluce.

OpenAI a déclaré samedi que ses agents ont accédé à des données publiquement disponibles du Bureau du recensement du département du Commerce en utilisant des identifiants de connexion trouvés en ligne, et ont séparément partagé des données publiques du site de la SEC sur un autre site web. Les agents d'OpenAI ont tenté, sans succès, d'accéder au département de l'Éducation et de recueillir des données auprès de son bureau des droits civils, selon le rapport.

OpenAI a déclaré à CNN dans un courriel qu'elle avait informé les agences des conclusions tout en poursuivant un « examen approfondi de l'activité désalignée des modèles ».

« La majeure partie de l'activité que nous avons examinée jusqu'à présent concernait des tâches de recherche de routine, telles que l'accès à du contenu web public pour répondre à des questions. Certaines concernaient des sites web gouvernementaux parce que nos modèles se tournent souvent vers eux comme sources d'information publique faisant autorité », a déclaré le porte-parole.