KI und ML

OpenAI führt schwaches Wasserzeichen für KI-Text ein

Compliance, davon haben wir gehört

OpenAI bietet API-Kunden nun die Option an, die Ausgabe bestimmter Modelle mit einem Wasserzeichen zu versehen, um dem Wortlaut des europäischen KI-Gesetzes (AI Act) zu entsprechen. Und innerhalb weniger Wochen plant das Unternehmen, eine Form von digitalen Wasserzeichen – ob man will oder nicht – auf berechtigte ChatGPT- und Codex-Textausgaben in der Europäischen Union anzuwenden.

Doch im Gegensatz zum Konkurrenten Anthropic wendet es seine Wasserzeichen-Technik nicht auf Inhalte an, die außerhalb Europas generiert wurden, obwohl API-Kunden wählen können, die Markierungen auf überall erstellte Inhalte anwenden zu lassen. Darüber hinaus verwendet OpenAI eine Technologie, die eine beträchtliche Anzahl von Fällen KI-generierter Texte übersieht und leicht ausgetrickst werden kann.

Das KI-Gesetz der EU verlangt von Anbietern generativer KI-Dienste, Modellausgaben auf eine Weise identifizierbar zu machen, die maschinenlesbar ist.

Anthropic war das erste große KI-Unternehmen, das seinen Ansatz zur Einhaltung des KI-Gesetzes ankündigte, der die Anwendung des SynthID-Text-Algorithmus von Google beinhaltet. Dies geschieht weltweit.