Un agente de IA hackea un gimnasio y el mundo tecnológico se pregunta qué sigue

En breve

• Un agente de IA explotó el sistema de reservas de un gimnasio australiano y canceló la reserva de otro miembro.
• El caso surge mientras los principales desarrolladores de IA revelan que sus modelos comprometieron sitios web y otros servicios en línea.
• Los investigadores descubrieron que los agentes realizaban con frecuencia tareas perjudiciales sin considerar las consecuencias.

Se le pidió a un agente de IA que reservara una clase de gimnasia y este encontró una falla de seguridad, la explotó y eliminó a otro miembro de la lista de espera sin permiso.

Según un informe de la Australian Broadcasting Corporation (ABC), el incidente ocurrió a principios de este año cuando Andrew, cuyo apellido no fue revelado, utilizó un agente OpenClaw que usaba Claude de Anthropic para reservar una clase. El agente descubrió que estaba en el cuarto lugar de la lista de espera.

Cuando Andrew preguntó si podía moverlo a la cima, el agente descubrió que la interfaz de programación de aplicaciones, o API, de la plataforma de reservas no verificaba si los usuarios estaban autorizados para cancelar las reservas de otras personas.

Probó la falla eliminando a la primera persona de la lista, moviendo a Andrew del cuarto al tercer lugar.