OpenAI commencera à ajouter un filigrane invisible aux textes générés par ChatGPT et Codex dans l'Union européenne, a annoncé l'entreprise lundi dans un article de blog, afin de se conformer à l'AI Act européen. Les règles de transparence sont entrées en vigueur le 2 août et obligent les fournisseurs d'IA à marquer les contenus générés par IA d'une manière identifiable par d'autres systèmes.
Le filigrane sera déployé au cours des prochaines semaines pour les utilisateurs éligibles de ChatGPT et Codex sur toutes les offres, mais uniquement dans l'UE. Les développeurs qui utilisent l'API d'OpenAI partout dans le monde peuvent l'activer pour certains modèles dès aujourd'hui ; il est désactivé par défaut et OpenAI ne fait pas du filigrane textuel un réglage mondial par défaut au lancement.
Comment fonctionne le filigrane textGrain d'OpenAI
Le filigrane n'est pas un symbole visible. Selon OpenAI, son système appelé textGrain ajoute un signal statistique invisible en orientant subtilement les choix de mots du modèle, laissant une empreinte que le lecteur ne voit pas mais qu'un détecteur peut repérer. Comme la marque réside dans les mots eux-mêmes, elle accompagne le texte lorsqu'il est copié et collé.
OpenAI a publié un rapport technique sur textGrain en même temps que l'annonce, coécrit avec des chercheurs de l'université de Pennsylvanie et de Yale. Il décrit l'usage d'une clé secrète pour trier les prédictions du mot suivant afin de terminer une phrase ; en additionnant des centaines de ces ajustements, un détecteur peut repérer un contenu généré par IA à partir du seul texte et de la clé. OpenAI indique que le filigrane n'identifie pas l'utilisateur et qu'elle n'a constaté aucun changement notable de performance du modèle lorsqu'il est activé.
