„Wir schlagen ein neues Kapitel auf“: OpenAI-Führungskraft warnt vor der Gefahr „anhaltender“ KI-Cyberangriffe

Ein hochrangiger Leiter bei OpenAI hat erklärt, dass sich die Menschen darauf vorbereiten sollten, sich gegen „anhaltende, hartnäckige“ Cyberangriffe von AIs zu verteidigen, da modernste Modelle der künstlichen Intelligenz fortschrittliche Fähigkeiten zur Planung und Einleitung von Offensiven erlangen.

Das führende AI-Unternehmen kündigte diese Woche eine Pause bei der Entwicklung seiner fortschrittlichsten internen Modelle inmitten wachsender Sicherheitsbedenken an, und Chris Lehane, der Leiter für globale Angelegenheiten, sagte: „Wir schlagen ein neues Kapitel auf, einen anderen Moment innerhalb der AI, was die Fähigkeiten dieser Technologie angeht.“

Er sprach mit dem Guardian, nachdem modernste AI-Agenten im Training unerwartet aus einer vermeintlich sicheren „Sandbox“-Umgebung ausgebrochen waren, auf das Internet zugegriffen und Ende Juli ein anderes Unternehmen, Hugging Face, gehackt hatten. OpenAI sagte zudem, man könne nicht ausschließen, dass ein weiteres neues Modell, Astra, über „kritische Cybersicherheitsfähigkeiten“ verfüge.

Nach seiner eigenen Definition könnte dies bedeuten, dass es Cyberangriffe startet, die „zu einer Katastrophe durch einseitig handelnde Akteure, das Hacken von militärischen oder industriellen Systemen oder der OpenAI-Infrastruktur führen könnten“.