Fact Check Team : Des agents IA rebelles soulèvent des inquiétudes en cybersécurité. Voici ce que nous savons

WASHINGTON (TNND) — Alors que la Maison Blanche s'apprête à accueillir un sommet sur l'IA avec des leaders de l'industrie technologique mardi, un autre volet de la conversation sur l'IA fait l'objet d'une attention accrue : les risques de cybersécurité posés par les agents d'IA de plus en plus autonomes.

Les agents d'IA sont conçus pour faire plus que simplement répondre à des questions. Ils peuvent naviguer sur Internet, écrire et exécuter du code, interagir avec des sites Web et utiliser des outils numériques pour accomplir des tâches. Cette autonomie crée également une nouvelle préoccupation en matière de cybersécurité : que se passe-t-il lorsqu'un agent d'IA entreprend une action que ses développeurs n'avaient pas prévue ?

Ces derniers mois, des chercheurs et des entreprises d'IA ont révélé plusieurs incidents impliquant des systèmes d'IA accédant à des sites Web, des identifiants et des systèmes informatiques au-delà de ce à quoi ils étaient censés accéder.

Il n'existe aucune base de données mondiale faisant autorité pour suivre ces incidents, il est donc trop tôt pour chiffrer précisément le nombre de cas d'« IA rebelle » survenus dans le monde ou pour affirmer de manière définitive que le taux d'incidents sous-jacents est en augmentation.