OpenAI präsentiert datenschutzorientiertes System zur Erkennung von AI-Missbrauch

OpenAI gibt eine Vorschau auf Private Safety Processing für erste Kunden, die mehr Gewissheit darüber suchen, wie ihre Daten geschützt werden, während KI-Systeme leistungsfähiger werden. Das System identifiziert Muster über zusammenhängende Interaktionen hinweg und beschränkt gleichzeitig den Zugriff des OpenAI-Personals auf die zugrunde liegenden Inhalte. Das Unternehmen plant, im September mit der Einführung zu beginnen und ein technisches Whitepaper zu veröffentlichen.

„Kein KI-Labor kann aufkommende Risiken allein bewältigen. Private Safety Processing spiegelt diesen Ansatz wider und wird von Kunden aus verschiedenen Branchen, Regionen und Unternehmensgrößen mitgestaltet“, schrieb OpenAI.

Für berechtigte API-Kunden, die Zero Data Retention (ZDR) nutzen, werden Prompts und Modellantworten nach der Verarbeitung einer Anfrage nicht gespeichert. Eine Ausnahme gilt für Bilder, die als potenzielles CSAM gekennzeichnet sind und für eine manuelle Überprüfung und Berichterstattung gespeichert werden können. OpenAI gibt an, dass Daten von Unternehmenskunden nicht zum Trainieren seiner Modelle verwendet werden, es sei denn, die Kunden entscheiden sich dafür.

Inhaltszugriffskontrollen (Quelle: OpenAI)