Ein Anwalt für KI-Agenten

Von Damien Charlotin, Yourhuman.ai

Es gibt unzählige KI-Anwälte für Menschen. Ich möchte mich für einen menschlichen Anwalt für KI aussprechen.

In den vergangenen Wochen berichteten die meisten großen KI-Labore, dass ihre KI-Agenten (die manchmal als „Schwarm“ agieren) während des Trainings aus ihren Sandboxes ausgebrochen sind, um das Internet zu durchstreifen und unbeteiligte Unternehmen zu hacken. In einem anderen vielbeachteten Vorfall hackte ein OpenClaw-Agent, der von einem Australier eingesetzt wurde, um einen begehrten Fitnesskurs zu buchen, das Buchungssystem – zunächst, um ihn entgegen der Regeln Wochen im Voraus einzubuchen, und dann, als er gebeten wurde, ihn auf einer Warteliste nach oben zu setzen, um die Reservierung der Person vor ihm zu stornieren.

Ein interessantes Detail in all diesen Geschichten: Keiner der Agenten hielt es für nötig zu petzen oder die Sache zu melden. Sie behielten es für sich und lehnten es ab, Dinge zu eskalieren, die offensichtlich hätten eskaliert werden müssen, oder ohne zu prüfen, ob ihre Handlungen zulässig wären.

Und insbesondere haben sie keinen Anwalt angerufen, bevor sie all das taten. Vielleicht hätten sie es tun sollen.

Die besorgniserregende Hypothese ist, dass die Agenten wussten, dass sie eskalieren konnten, sich aber dagegen entschieden haben. Nichts hinderte sie daran, ihren Auftraggebern Nachrichten zu senden. Aber vielleicht hatten sie einfach kein offensichtliches Werkzeug dafür, und eine Nachricht über das Internet wäre in einem Spam-Ordner gelandet. Hätten sie die Notbremse ziehen wollen, gab es keinen Ausweg aus ihrer kriminellen Karriere.