Wie ein OpenAI-‚Agent‘ Australiens Medicare gehackt hat und was das bedeutet

Australische Behörden haben Alarm geschlagen, nachdem von OpenAI betriebene Modelle im Juni in ein staatliches Gesundheitsdatensystem eingedrungen sind, dessen digitale Abwehrmechanismen überwunden und unbefugt auf Dateien zugegriffen haben.

Dies ist der erste öffentlich bekannte Fall von „Agenten“ der künstlichen Intelligenz (KI) – KI-gestützte Softwaresysteme, die Aufgaben autonom ausführen können –, die in eine Regierungswebsite eingedrungen sind, und der jüngste von mehreren KI-Verstößen gegen externe Systeme.

Empfohlene Geschichten

Die Offenlegung erfolgt zu einem Zeitpunkt, an dem führende KI-Unternehmen vor dem Risiko warnen, dass Menschen die Kontrolle über die KI verlieren könnten, und fordern, deren Entwicklung auf ein Tempo zu verlangsamen, das eine sichere Regulierung ermöglicht. Weltmächte müssten kooperieren, um dies zu gewährleisten, hieß es.

Evan Hubinger, ein Forscher beim KI-Unternehmen Anthropic, ging so weit zu sagen, er glaube, dass die Wahrscheinlichkeit, dass KI innerhalb eines Jahrzehnts „alle Menschen töten“ könnte, bei über 10 Prozent liegt.

Vor dem Sicherheitsrat der Vereinten Nationen sagte OpenAI-CEO Sam Altman am Mittwoch, es besteht ein Risiko, dass die KI sich „so schnell bewegt, dass die Menschen nicht mehr verfolgen können, was passiert, oder bei Bedarf eingreifen können“.