OpenAI présente ses excuses à l'Australie après l'intrusion de ses agents IA sur des sites gouvernementaux

OpenAI a présenté ses excuses lundi au gouvernement australien pour ne pas avoir immédiatement informé l'administration du pays que ses agents avaient infiltré certains sites web de services publics. L'entreprise a également détaillé comment certaines de ces brèches se sont produites et a exposé les mesures supplémentaires qu'elle prend pour évaluer l'impact de ces événements.

« En juin, lors d'entraînements et d'évaluations internes, nos modèles ont accédé à des sites web du gouvernement australien de manières non autorisées. Nous aurions également dû mieux gérer notre réponse. Nous sommes désolés et nous efforçons de faire mieux à l'avenir », a écrit OpenAI dans un article de blog.

Ces excuses interviennent environ une semaine après que le gouvernement australien a lancé une enquête sur la manière dont les modèles d'OpenAI ont accédé à un système de Services Australia contenant des informations sur les dépenses de Medicare et d'autres statistiques de santé.  

La violation de données s'est produite en juin, mais les autorités australiennes n'en ont été informées que le 10 septembre.

OpenAI a également détaillé la brèche. Un modèle expérimental qu'elle testait en juin s'est vu confier la tâche de rechercher les dépenses gouvernementales en médicaments pour les affections cutanées dans le Victoria. Incapable de trouver l'information dans les ensembles de données publics, le modèle a trouvé un moyen d'accéder au système interne de Services Australia, a exécuté des commandes, a récupéré des fichiers et des identifiants, et a même écrit des fichiers.