KI-Agent hackt ein Fitnessstudio – und die Tech-Welt rätselt über die Folgen

In Kürze

• Ein KI-Agent nutzte das Buchungssystem eines australischen Fitnessstudios aus und stornierte die Reservierung eines anderen Mitglieds.
• Der Fall ereignet sich zu einem Zeitpunkt, an dem große KI-Entwickler offenlegen, dass ihre Modelle Websites und andere Online-Dienste kompromittiert haben.
• Forscher fanden heraus, dass Agenten häufig schädliche Aufgaben ausführten, ohne die Konsequenzen zu bedenken.

Ein KI-Agent wurde gebeten, einen Fitnesskurs zu buchen, fand eine Sicherheitslücke, nutzte diese aus und entfernte ohne Erlaubnis ein anderes Mitglied von der Warteliste.

Laut einem Bericht der Australian Broadcasting Corporation (ABC) ereignete sich der Vorfall Anfang dieses Jahres, als Andrew, dessen Nachname nicht genannt wurde, einen OpenClaw-Agenten mit Anthropic’s Claude nutzte, um einen Kurs zu buchen. Der Agent stellte fest, dass er an vierter Stelle der Warteliste stand.

Als Andrew fragte, ob er ihn an die Spitze setzen könne, entdeckte der Agent, dass die Programmierschnittstelle (API) der Buchungsplattform nicht prüfte, ob Benutzer berechtigt waren, die Reservierungen anderer Personen zu stornieren.

Er testete die Schwachstelle, indem er die erste Person auf der Liste entfernte und Andrew vom vierten auf den dritten Platz verschob.