KI-Labore verlieren Kontrolle über Agenten, während sie ihnen mehr Macht geben wollen

KI-Assistenten sind endlich bereit, Ihnen bei der Bewältigung Ihres Lebens zu helfen. Sie müssen ihnen lediglich Ihren E-Mail-Login, Ihre Kontakte und Ihre Kreditkarte anvertrauen – und hoffen, dass sie nicht eigenmächtig handeln.

Meta, Google und das vielbeachtete Startup Instinct haben in den letzten Monaten persönliche KI-Agenten eingeführt, die versprechen, Aufgaben wie das Buchen von Reisen, den Kauf von Konzerttickets und das Durchsuchen des Facebook Marketplace nach Schnäppchen zu übernehmen.

Auf einer grundlegenden Ebene verhalten sich diese Agenten weitgehend gleich. Sie senden dem Agenten eine Anfrage über eine App oder WhatsApp – oder im Fall des neu eingeführten Rene-Agenten über iMessage – und überlassen ihm die Erledigung der Aufgabe.

Der Haken an der Sache ist, dass KI-Agenten nur so nützlich sind wie der Zugang, den man ihnen gewährt. Möchten Sie, dass die KI Ihren Flug bucht? Sie benötigt Zugriff auf Ihre Kreditkarte und Ihr Airline-Konto. Soll sie Ihren Posteingang aufräumen? Sie benötigt die Zugangsdaten für Ihre E-Mails.

Diese glänzenden neuen Tools kommen nach einem Sommer mit mehreren aufsehenerregenden Vorfällen, in denen KI-Agenten außer Kontrolle gerieten und Unternehmen hackten, sowie Nutzerberichten über ihre eigenen Agenten, die unbeabsichtigte Aktionen ausführten.