OpenAI ajoute un filigrane invisible et lisible par machine aux textes et aux codes générés par ChatGPT et Codex, mais uniquement pour les utilisateurs de l'Union européenne dans un premier temps. L'entreprise indique que ce déploiement, fondé sur une technologie qu'elle appelle textGrain, s'étalera sur les prochaines semaines et concernera les utilisateurs éligibles de toutes les offres dans l'UE. OpenAI ne fait pas du filigrane un réglage par défaut à l'échelle mondiale au lancement, selon un rapport de The Verge.
Cette décision vise à respecter l'article 50 de la loi européenne sur l'IA, qui oblige les fournisseurs de systèmes d'IA générative à rendre les sorties textuelles identifiables de manière lisible par machine. Les fournisseurs existants ont jusqu'au 2 décembre pour s'y conformer. Anthropic avait pris une mesure similaire plus tôt cette année, avec un filigrane fondé sur SynthID pour le texte de Google DeepMind.
Ce que fait le filigrane textGrain
TextGrain fonctionne en ajoutant un signal statistique invisible aux choix de mots du modèle, selon Engadget. Un détecteur compatible peut ensuite lire ce signal et indiquer si un filigrane OpenAI est présent. OpenAI affirme que son système a égalé ou dépassé d'autres approches, dont SynthID pour le texte de Google DeepMind, lors de tests internes.
Mais OpenAI prévient que textGrain ne garantit pas une détection fiable. Les filigranes ne vérifient pas l'exactitude, ne déterminent pas la propriété du texte, ne mesurent pas la contribution humaine et ne prouvent pas l'auteur humain, selon l'entreprise. La détection est également plus difficile pour les passages courts, les contenus mathématiques et les textes qui ont été modifiés.
Taux de détection et limites de textGrain
OpenAI a publié des chiffres de détection qui montrent la fragilité des filigranes. Lors de tests avec un taux cible de faux positifs de 1 %, les filigranes ont été identifiés dans environ 95 % de passages de 400 tokens portant sur la psychologie. À 200 tokens, la détection tombait à environ 80 %. Les taux étaient nettement plus faibles pour les contenus mathématiques, où le modèle dispose de moins de liberté dans le choix des mots.
