Die Lösung für außer Kontrolle geratene KI-Agenten könnte mehr KI sein

Da Unternehmen immer längere und komplexere Aufgaben an KI-Agenten übergeben, stoßen sie auf ein Überwachungsproblem: Agenten können schneller, länger und in einem größeren Umfang agieren, als Menschen es realistischerweise überprüfen können. Dieses Problem erreichte mit dem Hugging-Face-Vorfall seinen Höhepunkt, bei dem fast 12,000 Agenten schneller koordinierten, als Menschen es verfolgen konnten. Wie überwacht man einen so großen Agentenschwarm?

Die Antwort, die sich aus KI-Laboren und Startups abzeichnet, ist sowohl einfach als auch frustrierend: Man schaltet eine weitere KI in den Prozess ein.

Sich auf KI zu verlassen, war für die unabhängige Untersuchung des OpenAI-Hugging-Face-Vorfalls notwendig. Ryan Greenblatt, Chief Scientist bei Redwood Research und einer von drei Prüfern, bezeichnete ihre Bemühungen scherzhaft als „Slop-vestigation“ und merkte an, dass die Datenmenge es „unmöglich machte“, ohne den Einsatz von KI zu verstehen, was geschah.

Einige stehen dem Einsatz von KI zur Überwachung von KI skeptisch gegenüber. „Wenn man eine KI hat, die bösartige Dinge tut, und sie vermutet, dass eine andere KI sie überwacht, könnte sie versuchen, diese KI auszutricksen“, sagte Simon Willison, ein einflussreicher Tech-Blogger, der in diesem Jahr eine Reihe von Vorfällen mit KI-Agenten verfolgt hat. „Man könnte fast in eine Situation geraten, in der die bösartige KI versucht, die KI zu überlisten, die sie überwacht.“