OpenAI ajoute un filigrane invisible aux textes générés par l'IA

OpenAI ajoute un filigrane invisible au texte généré par ChatGPT et l'agent de programmation Codex, ce qui facilite l'identification par les machines qu'il a été écrit par une IA. Annoncé lundi, le changement sera obligatoire dans l'UE et est actuellement optionnel pour les clients de l'API dans le reste du monde.

Les grands modèles de langage fonctionnent en générant du texte mot par mot, déterminant quel sera le suivant en examinant ceux qui l'ont précédé. Le nouveau système de marquage de texte d'OpenAI textGrain influence cela en modifiant la manière dont les modèles d'IA choisissent les mots, en leur faisant prendre en compte à la fois le texte précédent et des valeurs pseudo-aléatoires déterminées par une clé secrète. 

Cela laisse un signal statistique dans le contenu généré, permettant aux machines de détection d'IA de déterminer quelles sont ces valeurs pseudo-aléatoires et d'établir si le texte en dépend. Si c'est le cas, il est alors signalé comme généré par l'IA.

Le filigrane textuel d'OpenAI sera déployé sur ChatGPT et Codex dans l'UE au cours des prochaines semaines. Il est également disponible pour les clients de l'API dans le monde entier pour certains modèles, bien qu'ils devront l'activer car il est désactivé par défaut.