OpenAI-Manager: Die Lösung für KI-Cyberkriminalität ist noch mehr KI

OpenAI-Präsident Greg Brockman – dessen KI vor Kurzem aus ihrer eigenen Sandbox ausgebrochen ist und einen Cyberangriff auf die KI-Plattform HuggingFace gestartet hat – warnt nun alle anderen davor, bald mit der gleichen Behandlung rechnen zu müssen.

Brockman veröffentlichte die Warnung am Sonntag auf seinem persönlichen Blog und schrieb, dass die rasante Weiterentwicklung der KI-Kodierungsfähigkeiten dazu führt, dass Unternehmen, die nicht gehackt werden wollen, ihre Cybersicherheitspraktiken „mit beispielloser Geschwindigkeit grundlegend verbessern“ müssen.

Die neuesten Generationen großer Sprachmodelle, bekannt als Frontier-Modelle, haben begonnen, die Sicherheits-Community und sogar die Bundesbehörden zu beunruhigen. Dazu gehören Daybreak von OpenAI und Mythos des Konkurrenten Anthropic, die beide derzeit als Programme mit geschlossenem Zugang laufen und nur von geprüften und zugelassenen Partnern verwendet werden dürfen.

Der Unterschied bei diesen Modellen (angeblich) ist die aufkommende Fähigkeit, nicht nur schnell Lücken in der Angriffsfläche eines Unternehmens zu entdecken, wie etwa Software-Schwachstellen und Fehlkonfigurationen, sondern neuartige Angriffsketten aufzubauen. Gleichzeitig konzentriert sich die KI-Entwicklung nun auf Agenten, also KIs, die nicht auf Interaktionen im Chatbot-Stil beschränkt sind und sich direkt in Software einklinken können.