Amex presenta un marco para evitar que agentes de IA realicen compras no autorizadas

Los agentes de IA personales realizan transacciones cada vez más en nombre de sus usuarios, pero dada la naturaleza no determinista de los modelos de lenguaje grandes, los bots de IA son propensos a hacer lo que no deben. Lo que, en este caso, plantea la posibilidad de que la IA falle y realice transacciones no autorizadas.

Para adelantarse a este problema, American Express está introduciendo un nuevo marco diseñado para capturar y autenticar la intención de compra de un cliente antes de que un agente de IA complete la transacción.

La idea es que debería haber una forma de garantizar que las instrucciones de compra del cliente se mantengan a lo largo del ciclo de vida de la transacción, dice Amex, desde la compra hasta todo lo que sigue.

Denominado el “Intent Intelligence Framework”, la empresa espera que se convierta en un estándar de la industria para las transacciones impulsadas por IA.

“Estas nuevas transacciones tendrán un consumidor, un comerciante y un agente”, explicó la vicepresidenta de Agentic Partnerships and Strategy de Amex, Hannah Bozian, en una entrevista con TechCrunch. Dijo que la empresa quería asegurar que las transacciones agénticas sigan siendo “fluidas, confiables y seguras, de la manera en que nuestros miembros de tarjeta esperan que sean”.