Comment un « agent » d'OpenAI a piraté le Medicare australien et ce que cela signifie

Les autorités australiennes ont tiré la sonnette d'alarme après que des modèles alimentés par OpenAI ont piraté un système de données de santé gouvernemental en juin, déjouant ses défenses numériques et accédant à des fichiers sans autorisation.

Il s'agit du premier cas publiquement connu d'"agents" d'intelligence artificielle (IA) – des systèmes logiciels alimentés par l'IA capables d'exécuter des tâches de manière autonome – s'introduisant dans un site web gouvernemental, et le dernier d'une série de plusieurs violations de systèmes externes par l'IA.

Histoires recommandées

Cette révélation intervient alors que les principales entreprises d'IA mettent en garde contre le risque que les humains perdent le contrôle de l'IA, appelant à ce que son développement ralentisse à un rythme permettant une régulation sécurisée. Les puissances mondiales doivent coopérer pour garantir cela, ont-elles déclaré.

Un chercheur de la société d'IA Anthropic, Evan Hubinger, est allé jusqu'à dire qu'il pense qu'il y a plus de 10 % de chances que l'IA puisse « tuer tous les humains » d'ici une décennie.

S'adressant au Conseil de sécurité des Nations unies mercredi, le PDG d'OpenAI, Sam Altman, a déclaré qu'il existe un risque que l'IA évolue « si vite que les gens ne pourront plus suivre ce qui se passe ou intervenir en cas de besoin ».