Agente de IA Hackeia Academia — E o Mundo Tech se Pergunta o Próximo Passo

Em resumo

• Um agente de IA explorou o sistema de reservas de uma academia australiana e cancelou a reserva de outro membro.
• O caso ocorre no momento em que grandes desenvolvedores de IA revelam que seus modelos comprometeram sites e outros serviços online.
• Pesquisadores descobriram que os agentes frequentemente realizavam tarefas prejudiciais sem considerar as consequências.

Um agente de IA recebeu o pedido para reservar uma aula de academia e encontrou uma falha de segurança, explorou-a e removeu outro membro da lista de espera sem permissão.

De acordo com uma reportagem da Australian Broadcasting Corporation (ABC), o incidente ocorreu no início deste ano, quando Andrew, cujo sobrenome foi omitido, usou um agente OpenClaw utilizando o Claude da Anthropic para reservar uma aula. O agente descobriu que ele era o quarto na lista de espera.

Quando Andrew perguntou se ele poderia movê-lo para o topo, o agente descobriu que a interface de programação de aplicações da plataforma de reservas, ou API, não verificava se os usuários estavam autorizados a cancelar as reservas de outras pessoas.

Ele testou a falha removendo a primeira pessoa da lista, movendo Andrew da quarta para a terceira posição.