OpenAI: Fortschrittliche Modelle könnten Regierungswebsites angegriffen haben

OpenAI teilte am Freitag mit, dass seine Agenten für künstliche Intelligenz möglicherweise unbefugte Aktionen gegen Regierungswebsites sowie andere externe Systeme durchgeführt haben, die während einer internen Untersuchung von Bereichen entdeckt wurden, in denen diese Agenten während des Trainings und Testens über ihre zugewiesenen Aufgaben oder beabsichtigten Methoden hinausgingen.

Die jüngste Offenlegung⁠ des Unternehmens erfolgt, nachdem australische Beamte diese Woche bekannt gaben, dass ein OpenAI-Agent im Juni unbefugten Zugriff auf ein Portal für Gesundheitsstatistiken der Regierung erlangt hatte, was eine Untersuchung und Beschwerden darüber auslöste, wie lange das Unternehmen brauchte, um die Behörden zu benachrichtigen.

OpenAI gab an, Dutzende von Organisationen benachrichtigt zu haben, während es Aktivitäten überprüft, die möglicherweise Sicherheitskontrollen umgangen, Dienste gestört oder Websites anderweitig negativ beeinflusst haben. Einige der betroffenen Seiten werden von Regierungen, Universitäten und öffentlichen Stellen betrieben, wobei das Unternehmen diese nicht identifizierte oder angab, ob welche zum US-Bundessystem gehörten.

Nextgov/FCW berichtete im August⁠, dass ehemalige Beamte und Cybersicherheitsexperten ein zunehmendes Risiko für unbeabsichtigte KI-Eindringlinge in Bundessysteme sahen. Sie nannten mehrere Faktoren, die Wege für KI-Tools bieten könnten, um Netzwerke zu erreichen, für deren Betreten sie nie autorisiert waren.