„Innere Gedanken“ aller großen KI-Modelle durch massiven Exploit enthüllt

In Kürze

• Ein Team von Forschern fand heraus, dass Anthropic, OpenAI und Google alle einen einzigen globalen Verschlüsselungsschlüssel für AI-Reasoning-Token verwenden.
• Durch die Dekodierung von 315,320 Reasoning-Blöcken, die aus öffentlichen GitHub- und Hugging Face-Repositories extrahiert wurden, stellten die Forscher 182 Anmeldedaten wieder her, darunter 62 aktive API-Schlüssel, 33 Passwörter und 30 persönliche E-Mail-Adressen.
• OpenAI, Anthropic und Google haben nach einer verantwortungsvollen Offenlegung serverseitige Patches implementiert, aber historische Sitzungsprotokolle, die bereits öffentlich geteilt wurden, bleiben dekodierbar.

Sicherheitsforscher haben einen Weg gefunden, die verschlüsselten „inneren Gedanken“ jedes größeren KI-Reasoning-Modells zu lesen – und dabei 62 aktive API-Schlüssel und 33 Passwörter entdeckt, die in Sitzungsprotokollen vergraben waren, die Entwickler öffentlich online geteilt hatten, ohne zu wissen, was darin enthalten war.

„Durch die Dekodierung von 315,320 Reasoning-Blöcken, die aus öffentlichen Repositories extrahiert wurden, haben wir 367 Artefakte mit personenbezogenen Daten (PII) und 182 Anmeldedaten wiederhergestellt“, schrieben die Forscher.