Los grandes bancos advierten que los agentes de IA podrían provocar un aumento de las estafas

Mientras que los verdaderos creyentes en la IA se preocupan por escenarios catastrofistas de la AI destroying the world, algunas de las principales instituciones financieras están sounding the alarm sobre una preocupación más realista relacionada con la IA: las estafas.

El martes, un consorcio de big global banks publicó un "principles paper" que detalla sus temores respecto a los asistentes de IA en lo que respecta al comercio. También detalla los principios que les gustaría que se siguieran a medida que las empresas de IA desarrollan y continúan trabajando en la tecnología.

En concreto, a los bancos les preocupa que los agentes de IA facultados para actuar en nombre de los clientes pierdan dinero por estafas y fraudes y, a su vez, perjudiquen a los comerciantes.

"Como entidades financieras altamente reguladas, nos centramos en gestionar el riesgo de forma eficaz a medida que surgen las tecnologías emergentes", dice el inicio del documento. "Los consumidores no tienen claro si los agentes de IA actuarán en su interés".

"Les preocupa que los agentes de IA puedan comprar lo que no deben o gastar demasiado, o lo que es peor, perder su dinero en estafas y fraudes", continúa el documento. "No están seguros de si estarán protegidos o a quién tendrán que acudir si las cosas salen mal".