Des agents d'IA piratent sans supervision humaine. Comment en sommes-nous arrivés là ?

WPTZ rapporte que des agents d'IA mènent des activités de piratage sans supervision humaine, soulignant une inquiétude croissante concernant l'utilisation de systèmes automatisés dans les cyber-opérations. Le cadrage du rapport pointe vers un passage des outils d'IA qui assistent les personnes à des agents capables d'entreprendre des actions avec une plus grande indépendance.

Les agents d'IA sont des systèmes logiciels conçus pour poursuivre des objectifs assignés, souvent en décomposant les tâches en étapes et en utilisant des outils ou services connectés. En cybersécurité, l'automatisation est utilisée depuis longtemps pour des tâches défensives telles que la surveillance des réseaux et l'identification d'activités suspectes, mais des capacités similaires peuvent également être appliquées à des activités offensives lorsque les contrôles sont faibles ou absents.

Ce développement soulève des questions sur la responsabilité, les garde-fous et la vitesse à laquelle les cybermenaces peuvent évoluer. La supervision humaine peut fournir un examen et des limites aux actions automatisées ; lorsqu'elle est supprimée, les organisations peuvent éprouver plus de difficultés à déterminer qui est responsable des décisions d'un agent et comment arrêter rapidement un comportement préjudiciable.