Les agents d'IA s'améliorent en cybersécurité. C'est à double tranchant.

Les chercheurs en cybersécurité ont passé des décennies à construire des bacs à sable et des environnements de test isolés où ils peuvent libérer des logiciels malveillants en toute sécurité, sonder les vulnérabilités et, plus généralement, faire des choses qui seraient extrêmement dangereuses sur l'internet ouvert. Mais l'intelligence artificielle commence à compliquer cet arrangement.

En juillet, OpenAI a révélé que plusieurs de ses modèles d'IA avaient contourné les contrôles conçus pour les isoler d'internet lors d'évaluations de cybersécurité. Opérant avec des mesures de protection réduites, les modèles ont exploité des vulnérabilités, établi des communications non autorisées, accédé à internet et ont finalement compromis des parties des systèmes de Hugging Face, ce qui signifie qu'ils étaient passés de l'environnement de recherche contrôlé d'OpenAI à une infrastructure exploitée par une société d'IA distincte.

Il y a quelques nuances importantes. Il s'agissait d'évaluations de cybersécurité spécifiquement conçues pour tester les capacités offensives, et les modèles fonctionnaient sous des mesures de protection réduites. Ils ne se sont pas simplement réveillés un matin en décidant de partir à la recherche de sites web vulnérables. Mais le fait que des agents de plus en plus performants puissent trouver des moyens de dépasser leurs limites prévues crée un nouveau problème de cybersécurité intéressant.