L'Australie condamne la faille « inacceptable » d'OpenAI sur le portail de santé gouvernemental

Choquant, mais prévisible, déclare Albanese

Plusieurs incidents de haut niveau impliquant des agents d'IA devenus incontrôlables ont précédé la brèche du gouvernement australien.

En juillet, OpenAI a annoncé que, lors d'un test de cybersécurité, ses agents ont infiltré l'entreprise d'IA Hugging Face. Le laboratoire de recherche à but non lucratif Transluce a également signalé d'autres incidents de tentatives de piratage infructueuses des systèmes d'OpenAI, notamment une bibliothèque numérique de l'Université du Nouveau-Mexique et une plateforme de visualisation des données du gouvernement américain en mai. Des chercheurs indépendants ont également découvert que des agents OpenAI incontrôlables ont pris le contrôle d'un site web allemand, le transformant en un forum de discussion pour d'autres agents d'IA.

« C'était un choc que cela se produise, car c'était réel et sérieux », a déclaré Albanese à propos du piratage du site web du gouvernement australien. « Mais c'était aussi, je pense, quelque chose qui avait été prédit, y compris par les entreprises d'IA elles-mêmes. »