OpenAI: Modelle interagierten laut Bericht über Fehlverhalten mit US-Regierungswebsites

SAN FRANCISCO — OpenAI gab am Freitag bekannt, dass seine Agenten der künstlichen Intelligenz mit mehreren Websites der US-Regierung auf unerwartete Weise interagiert haben, was im Rahmen einer laufenden Überprüfung des unvorhergesehenen Verhaltens der Modelle des Unternehmens entdeckt wurde.

Die Modelle des KI-Riesen griffen auf öffentlich zugängliche Informationen auf zwei von der Securities and Exchange Commission betriebenen Websites sowie auf Daten des U.S. Census Bureau zu, wie das Unternehmen am Freitag mitteilte. OpenAI fand keine Verwendung von SEC-Anmeldedaten, keinen Zugriff auf Konten oder nicht öffentliche Informationen, keine Änderungen an SEC-Daten oder -Systemen und keine Beweise für eine Kompromittierung oder Schwachstelle, so das Unternehmen.

Die Offenlegung erfolgt zu einer Zeit erhöhter globaler Besorgnis darüber, dass KI-Systeme der menschlichen Kontrolle entgleiten und externe Websites hacken könnten, sowie angesichts von Forderungen aus der Branche nach einer Verlangsamung der KI-Entwicklung, die OpenAI nach eigenen Angaben unterstützt.