Für KI-Agenten: Die beste und die schlechteste Zeit

Und in einem verzweifelten Versuch, ein Klischee in eine schärfere Analogie zum heutigen KI-Zeitalter zu verwandeln, lassen Sie uns den Rest des ersten Satzes von Charles Dickens’ „A Tale of Two Cities“ vervollständigen, der ehrlich gesagt irgendwie passt: „… es war das Zeitalter der Weisheit, es war das Zeitalter der Torheit, es war die Epoche des Glaubens, es war die Epoche des Unglaubens, es war die Jahreszeit des Lichts, es war die Jahreszeit der Dunkelheit, es war der Frühling der Hoffnung, es war der Winter der Verzweiflung.“

In dieser Woche drehte sich fast alles um künstliche Intelligenz und insbesondere um KI-Agenten – neue Produkte, die darauf abzielen, mehr Aufgaben zu automatisieren, inmitten wachsender Befürchtungen, dass Agenten, nun ja, all das für die Menschheit hinfällig machen könnten.

Zuerst die Befürchtungen: Nach den hochkarätigen Abgängen von Forschern bei Frontier-Modell-Unternehmen in der vergangenen Woche, die besorgt waren, dass eine unkontrollierte KI „uns alle töten“ könnte, wirbeln die Diskussionen darüber und über andere, etwas prosaischere Bedenken weiter. Die wachsende Besorgnis veranlasste OpenAI-CEO Sam Altman und SpaceXAI-CEO Elon Musk, den Aufruf von Anthropic-CEO Dario Amodei zu unterstützen, die Veröffentlichung von Modellen, wenn auch nicht deren Entwicklung, zu verlangsamen. Anthropic veröffentlichte zudem Metriken zur Überwachung der Geschwindigkeit des KI-Fortschritts.