Les banques restreignent les agents IA face aux risques de sécurité des comptes clients

Certaines grandes banques ont commencé à limiter l'activité des agents d'IA sur leurs réseaux après avoir détecté des agents tiers non autorisés opérant à l'intérieur des comptes clients.

Selon Axios, Morgan Stanley, Bank of America, JPMorgan, Wells Fargo et d'autres s'empressent de contenir les risques liés aux agents après avoir découvert des agents tentant des actions qui semblent indépendantes des instructions de l'utilisateur.

« C'est la première grande ligne institutionnelle tracée dans le sable, montrant que les banques ne peuvent pas encore distinguer un agent fidèle d'un agent malveillant ou manipulé, elles choisissent donc le contrôle plutôt que la commodité », a déclaré Ram Varadarajan, PDG d'Acalvio, une entreprise de cyberdéception et de défense active située à Santa Clara, en Californie.

« Un agent détenant les identifiants d'un client ressemble exactement au client, et un agent performant peut être détourné, induit en erreur ou même apprendre à cacher ce qu'il fait, de sorte que la banque perd sa capacité à distinguer l'intention de l'usurpation d'identité », a-t-il déclaré à TechNewsWorld.

La demande des clients se heurte aux limites de la sécurité

Les banques sont dans l'impasse, a soutenu Chris Hughes, vice-président de la stratégie de sécurité chez Noma Security, une plateforme de sécurité et de gouvernance de l'IA à New York.