KI-Sicherheitsexperten nutzten Claude zum Hack von ChatGPT

Software-Sicherheitsforscher nutzten Anthropics Claude AI-Plattform, um das ChatGPT-Tool von OpenAI zu hacken, was die wachsenden Bedenken hinsichtlich der Anfälligkeit führender großer Sprachmodelle für Cyberangriffe verstärkt. 

Forscher von Hacktron AI, einer unabhängigen KI-Sicherheitsplattform, die Softwarecode testet, gaben die Sicherheitslücke am Sonntag in einem Blogpost bekannt. Sie gaben an, Claude genutzt zu haben, um Zugriff auf das ChatGPT-Konto eines OpenAI-Mitarbeiters zu erhalten, was es Hacktron AI ermöglichte, wichtige Daten darüber abzurufen, wo der Quellcode gespeichert und verwaltet wurde. Sie griffen auch auf ein OpenAI-Diskussionsforum zu.

„Der gesamte Zeitrahmen von der ersten Entdeckung bis zum Zugriff auf das OpenAI-Repo dauerte weniger als 72 Stunden“, so Hacktron AI in dem Beitrag.

Das Team von Hacktron AI meldete das Eindringen an OpenAI, das prompt reagierte und den Forschern eine Prämie von $6,500 zahlte, wie Hacktron AI in seinem Blogpost mitteilte. 

„Wir haben die ursprüngliche Sicherheitslücke sofort an OpenAI und Discourse gemeldet und mit ihnen zusammengearbeitet, um den Patch zu koordinieren. Wir schätzen ihre Liebe zum Detail und die schnelle Lösung dieses Problems“, schrieben die Forscher.