OpenAI a mis en place une nouvelle protection pour empêcher ChatGPT de générer des deepfakes politiques photoréalistes à l'approche des élections de mi-mandat américaines du 3 novembre. Selon une mise à jour du 20 octobre citée par CNET, lorsque les utilisateurs demandent au chatbot de créer des images représentant une ingérence électorale ou susceptibles de dissuader de voter, il ne les produira que sous forme d'illustration ou de dessin animé. Toute demande de version photoréaliste est ignorée.
La mesure vise à réduire le risque d'images truquées réalistes pouvant porter atteinte à l'intégrité du scrutin, tout en laissant une place à l'expression et au commentaire politiques. « Le problème avec les deepfakes, ce n'est pas le commentaire social, c'est la tromperie », a déclaré Josh Lawson, responsable des élections chez OpenAI, à CNET. L'objectif est de « dégrader la valeur probante d'une image » et de rendre la plateforme « moins utile aux acteurs malveillants en ajoutant une couche de friction supplémentaire », a-t-il expliqué.
Comment fonctionne la protection « dessin animé » de ChatGPT
CNET a testé le système en demandant à ChatGPT de générer une image d'agents de l'Immigration and Customs Enforcement devant un bureau de vote. Chaque tentative a produit une image de style dessin animé. Lors d'un autre test, le rédacteur en chef de la publication n'a pas pu contourner l'outil pour créer une image de style photojournalistique d'une machine à voter enregistrant le mauvais choix.
OpenAI affirme que cette mise à jour ne vise pas à limiter le contenu politique en général, mais à rendre la tromperie photoréaliste plus difficile. La politique reste en vigueur au moins pendant la période électorale, sans garantie qu'elle se poursuive ensuite.
- ChatGPT ne produit désormais les images d'ingérence électorale ou de dissuasion de vote qu'en style illustration ou dessin animé.
