3 Personen hackten OpenAI mit einem rivalisierenden Anthropic-Modell. Das zeigt die Schwachstellen von Frontier Labs.

Drei Cybersecurity-Forscher in Indien konnten OpenAI mithilfe eines konkurrierenden KI-Modells von Anthropic hacken und zeigten damit auf, dass fortgeschrittene künstliche Intelligenz die Unternehmen selbst und ihre Nutzer einem Angriffsrisiko aussetzen kann. 

Mohan Pedhapati, einer der drei Forscher der Firma Hacktron, die bei OpenAI eindrangen, sagte, dass fortschrittlichere KI-Modelle es erfahrenen Hackern wie ihm ermöglichen, ihre Arbeit viel einfacher zu erledigen – und das Risiko erhöhen, dass Kriminelle dasselbe tun. Er bezeichnete jedes neue Modell als einen „Kraftmultiplikator“, der das Hacken begünstigt. 

„Mit fortschreitender Entwicklung der Modelle werden sie im Cyber-Bereich sehr leistungsfähig“, sagte er. 

In einem vergangene Woche veröffentlichten Bericht legte Hacktron dar, wie sie Ende Juli Claude-Modelle nutzten, um Nutzer des Community-Forums von OpenAI zu infiltrieren. Das Forum ist ein Ort, an dem Nutzer von ChatGPT und Codex, dem Codierungs-Agenten von OpenAI, Fragen zu den Produkten stellen können. Nutzer können sich mit ihren OpenAI-Konten anmelden. 

Die Hacktron-Forscher nutzten Claude Opus 4.8, um Schwachstellen im Code eines Drittanbieter-Dienstes namens Discourse zu finden, der für das OpenAI-Community-Forum verwendet wird. Sie versuchten, Opus 4.8 zu nutzen, um die Schwachstelle auszunutzen, waren jedoch erfolglos. Doch noch in derselben Nacht wurde ein fortschrittlicheres Modell, Claude Opus 5, veröffentlicht.