Nvidia, Palantir und andere schränken Nutzung fortschrittlicher KI-Modelle wegen Datenschutzbedenken ein, so ein Bericht – „Paranoia“ um geistiges Eigentum von Kunden wächst

Anthropic und OpenAI sehen sich beide unangenehmen Fragen einiger großer KI-Kunden gegenüber, da diese besorgt sind, wie proprietäre Daten zum Trainieren von KI-Modellen verwendet werden könnten. Einige Unternehmen sind so besorgt, dass sie begonnen haben, Zusicherungen darüber zu verlangen, wie mit ihren Daten umgegangen wird, oder sie gehen sogar so weit, Einschränkungen festzulegen, welche Modelle ihre Mitarbeiter für welche Aufgaben verwenden dürfen, berichtet The Information. Sie befürchten, dass Modelle mit ihrem geistigen Eigentum und ihren Informationen trainiert werden könnten.

Das Problem lässt sich auf eine Änderung bei Anthropic im Juni zurückführen. Nach der Änderung der Richtlinien für sein Flaggschiff-Modell Fable kann Anthropic nun Kundendaten speichern. Das Unternehmen argumentiert, dass es dies nur tue, um sicherzustellen, dass Fable nicht missbraucht wird. Doch einige Unternehmen haben Bedenken geäußert, dass dies bedeutet, dass sensible Geschäftsdaten erfasst werden.

Während sowohl OpenAI und Anthropic darauf hinweisen, dass sie ihre Modelle standardmäßig nicht mit den Informationen trainieren, die ihnen von Unternehmen mit spezifischen Enterprise-Verträgen zur Verfügung gestellt werden, ist das nicht die ganze Geschichte. Beide Unternehmen erfassen Metadaten von denselben Firmenkunden, und während Informationen darüber, was genau diese Metadaten enthalten, schwer zu bekommen sind, stellt OpenAI fest, dass diese nur verwendet werden, „um besser zu verstehen, wie unsere Dienste genutzt werden“. Anthropic argumentiert zudem, dass alle Daten, die es darüber sammelt, wie Kunden seine Produkte nutzen, aggregiert und anonymisiert werden. Und diese Metadaten werden nicht zum Trainieren von Modellen verwendet.