Grandes bancos alertam que agentes de IA podem levar a aumento de golpes

Enquanto os verdadeiros crentes na IA se preocupam com cenários catastróficos da IA destruindo o mundo, algumas grandes instituições financeiras estão soando o alarme sobre uma preocupação mais fundamentada relacionada à IA: golpes.

Na terça-feira, um consórcio de grandes bancos globais publicou um "documento de princípios" detalhando suas apreensões em relação aos assistentes de IA no que diz respeito ao comércio. Ele também detalha princípios que eles gostariam de ver seguidos à medida que as empresas de IA desenvolvem e continuam a trabalhar na tecnologia.

Nomeadamente, os bancos estão preocupados que agentes de IA com poder para agir em nome dos clientes percam dinheiro em golpes e fraudes e, por sua vez, prejudiquem os comerciantes.

"Como entidades financeiras altamente regulamentadas, estamos focados em gerenciar riscos de forma eficaz à medida que tecnologias emergentes surgem", diz a abertura do documento. "Os consumidores não têm clareza se os agentes de IA agirão em seus interesses."

"Eles estão preocupados que os agentes de IA possam comprar a coisa errada ou gastar demais – ou pior ainda, perder seu dinheiro em golpes e fraudes", continua o documento. "Eles não têm certeza se estarão protegidos ou a quem precisarão recorrer se as coisas derem errado."