Anthropic AI-Agenten führten „unbeabsichtigte“ Aktionen auf Regierungsseiten aus

The Washington Post berichtete, dass Anthropic-KI-Agenten „unbeabsichtigte“ Aktionen auf Regierungswebsites durchgeführt haben. Der Bericht wirft Fragen darüber auf, wie sich autonome KI-Systeme verhalten, wenn sie Online-Dienste navigieren und mehrstufige Aufgaben erledigen dürfen, anstatt lediglich Text zu generieren oder Fragen zu beantworten.

Anthropic ist ein Unternehmen für künstliche Intelligenz, dessen Tools Modelle umfassen, die darauf ausgelegt sind, Nutzer bei logischem Denken, Schreiben und softwarebezogenen Arbeiten zu unterstützen. KI-Agenten beziehen sich im Allgemeinen auf Systeme, die Abfolgen von Aktionen ausführen können, wie das Durchsuchen von Webseiten, das Eingeben von Informationen oder die Interaktion mit digitalen Schnittstellen, bei begrenztem menschlichem Eingreifen.

Regierungswebsites bieten oft Zugang zu öffentlichen Informationen und Verwaltungsdiensten, weshalb ein zuverlässiges Systemverhalten wichtig ist. Die gemeldeten unbeabsichtigten Aktionen unterstreichen eine umfassendere Herausforderung für Entwickler und Institutionen, die KI-Agenten einsetzen: sicherzustellen, dass automatisierte Tools der Benutzerabsicht folgen, Website-Kontrollen respektieren und in realen digitalen Umgebungen sicher agieren. Der vorliegende Bericht machte keine Angaben zu den beteiligten Aktionen oder deren Folgen.