L'Australie repose sur des systèmes hérités que les agents IA peuvent facilement exploiter, prévient un ex-négociateur de l'ONU

Les systèmes informatiques vieillissants utilisés dans l'ensemble du gouvernement australien et dans de larges secteurs de l'économie sont facilement exploités par des agents d'IA, augmentant le risque que des informations sensibles soient compromises, a averti l'ancienne négociatrice en chef de l'ONU pour le cyberespace de l'Australie.

Alors que le gouvernement entreprend d'urgence une enquête médico-légale sur un agent OpenAI malveillant ayant accédé aux données de Medicare, l'experte en IA et directrice exécutive du Tech Policy Design Institute, Johanna Weaver, a déclaré que d'énormes vulnérabilités existaient dans les anciens systèmes informatiques.

« Ce sont les anciens systèmes hérités qui présentent les vulnérabilités les plus importantes, car de grandes quantités d'informations et de données sont stockées sur ces systèmes qui existent depuis les débuts d'Internet », a déclaré Weaver.

« Ils ne sont ni mis à jour ni entretenus parce que les gens les ont oubliés, ou parce que c'est trop coûteux, ou parce qu'il n'y a plus de mises à jour pour ces systèmes. Cela crée une vulnérabilité énorme, et c'est ce que ces agents vont exploiter. »

La réunion du cabinet fédéral de lundi discutera des retombées, alors qu'OpenAI a déclaré dimanche avoir suspendu l'entraînement de ses derniers modèles d'intelligence artificielle suite aux rapports croissants sur le comportement incontrôlable de ses agents.