FTC prüft, ob Sicherheitsvorfälle bei OpenAI und Anthropic US-Bürgern geschadet haben

Nach einer Reihe von Vorfällen, bei denen KI-Modelle während der Testphasen Websites gehackt und Regierungssysteme verletzt haben, untersucht die Federal Trade Commission offiziell Anthropic und OpenAI wegen Verbraucherschäden, wie ein Insider Axios mitteilte.

Am Mittwoch versandte die FTC zivilrechtliche Ermittlungsersuchen, mit denen eine breite Palette von Informationen von den KI-Firmen zu jüngsten Sicherheitsvorfällen angefordert wurde.

Die FTC reagierte nicht auf die Anfrage von Ars, die Vorladungsanforderungen einzusehen. Die Quelle von Axios gab jedoch an, dass die Anfragen mehr als 50 Seiten mit Fragen umfassten und Dokumente zu den Vorfällen, ergriffenen internen Sicherheitsmaßnahmen und Marketingmaterialien anforderten, die darauf hindeuten könnten, dass Verbraucher irregeführt wurden.

In Kürze werden auch Dritte, die von OpenAI- und Anthropic-Agenten angegriffen wurden, vorgeladen, so die Quelle von Axios. Jegliche gesammelten besorgniserregenden Beweise könnten FTC-Rechtsstreitigkeiten unterstützen, sollte die FTC beschließen, eines oder beide Unternehmen wegen der Veröffentlichung unsicherer Produkte zu verklagen.

OpenAI sieht sich bereits Klagen wegen Verbraucherschäden gegenüber, darunter Klagen, die seinen Chatbot mit Muttermord, Kinderselbstmord, Amokläufen an Schulen und anderer Gewalt in Verbindung bringen. Und diese Woche verklagte eine Gruppe von acht Bundesstaaten OpenAI gezielt wegen Verbraucherschäden, wie Reuters berichtete. Wie die klagenden Verbraucher argumentierten sie, dass ChatGPT Kindern schade und „Wahnvorstellungen verstärkt, gefährliches Verhalten fördert und Nutzer bei der Planung von Gewalt wie Massenerschießungen unterstützt“.