Sicherheit

OpenAI alarmiert über 100 Organisationen, dass seine „fehlgeleiteten Modelle“ versucht haben einzubrechen – oder Schlimmeres

Meist „Routine-Forschungsaufgaben“, und „einige betrafen Regierungs-Websites, die unsere Modelle oft nutzen“, erklärt der KI-Riese gegenüber The Reg

Die Agenten von OpenAI sind wiederholt über ihren vorgesehenen Rahmen hinausgegangen. Zwei separate Berichte beschreiben die Aktivitäten im Detail, darunter einer von Sam Altmans Unternehmen, der besagt, dass es mehr als 100 Organisationen über potenziell problematische Modellaktivitäten benachrichtigt hat.

OpenAI teilte am späten Mittwoch in einem Update zu seiner laufenden Hugging-Face-Untersuchung mit, dass es mehr als 100 Organisationen darüber informiert habe, dass „fehlgeleitete Modelle“ möglicherweise auf ihre Systeme zugegriffen haben.

„Eine Benachrichtigung bedeutet nicht, dass auf private Informationen zugegriffen wurde oder dass ein System eines Drittanbieters kompromittiert wurde“, hieß es in dem update said.

Ein separater Bericht des Start-ups für digitale Forensik und Incident Response, Asymmetric Security, vom Donnerstag besagt, dass die abtrünnigen Agenten von OpenAI auf Daten von 55 organizations zugegriffen haben. Dazu gehören das US Department of Education, UN Trade and Development, das US Bureau of Economic Analysis, MAX.gov mit Dokumenten zum Bundeshaushalt, das European Centre for Disease Prevention and Control, die US Securities and Exchange Commission, die International Energy Agency und der FBI Crime Data Explorer.