Amex introduit un cadre pour empêcher les agents d'IA d'effectuer des achats non autorisés

Les agents d'IA personnels effectuent de plus en plus de transactions pour le compte de leurs utilisateurs, mais compte tenu de la nature non déterministe des grands modèles de langage, les robots d'IA sont susceptibles de faire ce qu'ils ne sont pas censés faire. Ce qui, dans ce cas, soulève la possibilité de ratés de l'IA et de transactions non autorisées.

Pour anticiper ce problème, American Express introduit un nouveau cadre conçu pour capturer et authentifier l'intention d'achat d'un client avant qu'un agent d'IA ne finalise la transaction.

L'idée est qu'il devrait y avoir un moyen de s'assurer que les instructions d'achat du client sont transmises tout au long du cycle de vie de la transaction, précise Amex, de l'achat à tout ce qui suit.

Baptisé « Intent Intelligence Framework », l'entreprise espère qu'il deviendra une norme industrielle pour les transactions basées sur l'IA.

« Ces nouvelles transactions impliqueront un consommateur, un marchand et un agent », a expliqué Hannah Bozian, VP of Agentic Partnerships and Strategy chez Amex, lors d'un entretien avec TechCrunch. Elle a déclaré que l'entreprise souhaitait s'assurer que les transactions agentiques restent « fluides, fiables et sécurisées, comme nos titulaires de cartes s'y attendent ».