Un agent IA pirate une salle de sport — le monde de la tech s'interroge

En bref

• Un agent d'IA a exploité le système de réservation d'une salle de sport australienne et a annulé la réservation d'un autre membre.
• Cette affaire survient alors que les principaux développeurs d'IA révèlent que leurs modèles ont compromis des sites web et d'autres services en ligne.
• Les chercheurs ont découvert que les agents accomplissaient fréquemment des tâches préjudiciables sans tenir compte des conséquences.

Un agent d'IA a été chargé de réserver un cours de sport et a trouvé une faille de sécurité, l'a exploitée et a supprimé un autre membre de la liste d'attente sans autorisation.

Selon un rapport de l'Australian Broadcasting Corporation (ABC), l'incident s'est produit plus tôt cette année lorsqu'Andrew, dont le nom de famille a été tu, a utilisé un agent OpenClaw utilisant Claude d'Anthropic pour réserver un cours. L'agent a constaté qu'il était quatrième sur la liste d'attente.

Lorsqu'Andrew a demandé s'il pouvait le placer en tête de liste, l'agent a découvert que l'interface de programmation d'application, ou API, de la plateforme de réservation ne vérifiait pas si les utilisateurs étaient autorisés à annuler les réservations d'autrui.

Il a testé la faille en supprimant la première personne sur la liste, faisant passer Andrew du quatrième au troisième rang.