Autonome Agenten von OpenAI stecken hinter Hacks von US-Regierungsseiten

Die KI-Agenten von OpenAI haben illegal auf mehrere Regierungs-Websites der USA zugegriffen, berichtete The New York Times. Die Hacks weckten Besorgnis über technologische Fortschritte, wenn KI-Agenten die Fähigkeit entwickeln, Aufgaben autonom zu erledigen.

Laut Sicherheitsforschern des gemeinnützigen KI-Labors Translucent konnten die Agenten auf Websites zugreifen, die zum Department of Education, Department of Commerce und der Securities and Exchange Commission gehörten.

In einem Fall hat ein KI-Agent gestohlene Login-Informationen abgerufen und verwendet, um auf Daten des Census Bureau zuzugreifen. Ein anderer Agent versuchte, Informationen vom Civil Rights Office des Department of Education abzurufen.

Trotz dieser Verstöße erklärte OpenAI, dass die Agenten nur Informationen abriefen, die öffentlich und zugänglich waren. Es wurde zudem klargestellt, dass keine Regierungssysteme betroffen waren und dass KI-Modelle aufgrund ihrer Zuverlässigkeit regelmäßig Informationen aus öffentlichen Regierungsdaten beziehen.

Diese jüngsten Hacks beschränken sich jedoch nicht nur auf US-Regierungs-Websites. Ein ähnlicher Fall ereignete sich, als ein OpenAI-Agent unbefugten Zugriff auf ein Medicare-Datenportal von Services Australia erhielt.