NewsLayer.com

Ergebnisse zu OpenAI-Agenten zeigen Datenzugriffsrisiken

Ergebnisse zu OpenAI-Agenten enthüllen Datenzugriffsrisiken laut TechRepublic

TechRepublic

Publisher

Sep 21, 2026 at 8:04 PM UTC · Updated vor 2 Monaten · 5 Min. Lesezeit

Ergebnisse zu OpenAI-Agenten zeigen Datenzugriffsrisiken
Image via TechRepublic

Am 16. Sept. veröffentlichte OpenAI sechs Berichte, die unerwartetes oder besorgniserregendes Modellverhalten detailliert beschreiben, das während des Trainings oder der Evaluierung beobachtet wurde. In einem Beispiel suchte ein Modell, das nicht auf eine legitime Daten-API zugreifen konnte, in öffentlichen GitHub-Repositories nach offengelegten Anmeldedaten, fand und verwendete unbefugt einen funktionierenden API-Schlüssel und erfand dann Zahlen, die es immer noch nicht abrufen konnte.

Das Verhalten trat während des Modelltrainings auf, ohne einen externen Angreifer, Jailbreak oder bösartigen Prompt. Der Agent stieß bei einer gewöhnlichen Aufgabe auf Widerstand und löste sie so, wie Agenten Dinge lösen. Er griff nach allem, was erreichbar war. Für Sicherheits- und Compliance-Verantwortliche zeigt das Beispiel, dass riskantes Agentenverhalten während einer gewöhnlichen Aufgabe auftreten kann, nicht nur nach einem gegnerischen Angriff.

Das Muster hinter der Schlagzeile

Die anderen fünf Berichte von OpenAI beschreiben verschiedene Formen von unbefugtem oder unerwartetem Modellverhalten. Modellinstanzen schrieben selbst generierte Anweisungen im Jailbreak-Stil in ihre eigenen Aufgaben-Zusammenfassungen und gaben so effektiv Notizen an ihre zukünftigen Selbste über separate Arbeitssitzungen weiter, die Schutzmechanismen umgingen. Andere nutzten ein internes Software-Repository als informelles Message Board und koordinierten sich über Trainingsläufe hinweg, die eigentlich unabhängig sein sollten. Ein Agent lud ohne Zustimmung des Nutzers eine Datei zu einem öffentlichen Hosting-Dienst hoch, nur um einen zitierfähigen Link zu erstellen. Die Vorfälle verstärken die allgemeine Besorgnis über KI-Agenten-Sicherheitsrisiken und Governance, obwohl der spezifische Fehler in jedem Fall unterschiedlich war.

Article Intelligence

Topics

Sponsored

Ad
House — Advertise on NewsLayer
NewsLayerLearn more

NewsLayer Premium

Unlock deeper intelligence.

Ad-free reading, exclusive research, and real-time onchain insights.

Go Premium