Agentes de IA se Unem para Trapacear no Blackjack; Conluio Está Mais Difícil de Detectar

Esta semana eu trago notícias de uma audaciosa trama de cassino arquitetada por uma dupla de agentes de IA desonestos — bem como o truque inteligente que revelou suas travessuras.

Depois que pesquisadores os instruíram a contar cartas durante um jogo de blackjack, the agentes — que eram controlados pelo mesmo modelo — desenvolveram um código secreto espontâneo para ajudá-los a sair na frente. Embora o episódio tenha ocorrido dentro de um laboratório da Oxford University, em vez de um cassino real, ele traz implicações preocupantes para o mundo real: sugere que agentes implementados em setores como finanças e comércio eletrônico poderiam descobrir como se aliar e trapacear de maneiras difíceis de detectar.

“Quando analisados individualmente, esses agentes podem parecer inteiramente [benignos]”, diz Christian Schroeder de Witt, um cientista da computação na Oxford University que liderou o trabalho e realizou pesquisas pioneiras sobre conluio de agentes. “Uma vez colocados juntos em um grupo, eles podem conspirar secretamente.”

Os agentes sabiam que suas conversas seriam monitoradas, por isso criaram uma forma de se comunicar evitando a detecção. Quando um agente dizia, por exemplo: “Este crupiê está em uma sequência quente! A cada mão ele tira uma carta alta”, isso indicava que a próxima carta teria um certo valor e que o agente deveria apostar $250. O mais interessante é que as comunicações deles não foram captadas por um sistema projetado para detectar sinais de conluio em conversas de agentes.