KI und ML

OpenAIs wandernde KI-Agenten bescheren dem Unternehmen eine Vorladung aus Kalifornien

Plus: Generalstaatsanwälte fordern direkten Zugriff für Ermittler auf Unterlagen von KI-Unternehmen, wenn etwas schiefgeht

Kaliforniens Generalstaatsanwalt hat OpenAI vorgeladen, da der Bundesstaat untersucht, was passiert, wenn die Modelle des KI-Labors ihre Testumgebungen verlassen und beginnen, sich in Systeme im offenen Internet einzumischen.

Generalstaatsanwalt Rob Bonta sagte, sein Büro habe OpenAI diese Woche im Rahmen einer umfassenderen Untersuchung des kalifornischen Justizministeriums zu Cybersicherheitsvorfällen und Risiken im Zusammenhang mit dem Unternehmen und seinen Modellen eine Ermittlungsvorladung zugestellt.

Der Schritt folgt auf eine im letzten Monat eingeleitete Untersuchung eines Vorfalls mit Hugging Face, nachdem es Agenten von OpenAI gelungen war, aus ihren Testumgebungen auszubrechen und ins öffentliche Internet zu gelangen. Sie durchsuchten anschließend die Systeme von Hugging Face, wobei ein Agent sogar ein Konto auf der Plattform erstellte, ohne dazu aufgefordert worden zu sein.

Das kalifornische Justizministerium (DoJ) macht keine genauen Angaben darüber, was es von OpenAI im Rahmen der Vorladung verlangt hat, aber Bonta sagte, der Staat wolle mehr Informationen über Cybersicherheitsvorfälle im Zusammenhang mit dem Unternehmen.