United blockiert Nutzung von KI-Agenten wegen Cyber-Bedrohungen

United Airlines wird KI-Agenten daran hindern, Reservierungen und Flugbuchungen von Kunden zu verwalten, und warnt vor erheblichen Cybersicherheits- und Datenschutzrisiken sowie potenziellen Rechtsverstößen.

Andere große Unternehmen haben vor kurzem ähnliche Ankündigungen gemacht, darunter die Bank of America, die Nutzer letzte Woche warnte, niemals Benutzer-IDs und Passwörter an Agenten weiterzugeben.

Viele Unternehmen, insbesondere Banken und Fluggesellschaften, stehen vor zunehmenden Schwierigkeiten bei dem Versuch, menschliche Kunden von ihren KI-Assistenten zu trennen. Die Unternehmen warnen davor, dass die Zugangsdaten der Verbraucher gefährdet sind, wenn sie Agenten ihre Logins und Passwörter anvertrauen.

„Die Weitergabe von Kontozugangsdaten an persönliche KI-Assistenten von Drittanbietern kann sensible Informationen preisgeben, und von diesen Tools durchgeführte Aktionen können zu unbeabsichtigten Käufen, Kontoänderungen oder der Verwendung von MileagePlus-Meilen führen“, sagte United in einer Pressemitteilung vom Mittwoch.

Automatisierte KI-Aktionen könnten auch gegen Regeln der Federal Aviation Administration und des Department of Transportation verstoßen, hieß es in der Mitteilung unter Hinweis darauf, dass der Check-in für Flüge eine „menschliche Bestätigung erfordert, dass das Gepäck keine verbotenen Substanzen wie Sprengstoffe enthält“.