Étude : Grok choisit les républicains, GPT les démocrates dans 500 courses

L'étude note que chaque requête adressée à Grok via l'API de xAI comportait environ 1 240 jetons d'entrée supplémentaires que les chercheurs n'avaient pas écrits et ne pouvaient ni voir ni supprimer. Parikh les a qualifiés d'éventuelles « instructions cachées » et a estimé qu'elles ne provenaient probablement pas des poids du modèle. SpaceXAI n'a pas répondu à une demande de commentaire avant la publication.

OpenAI a contesté ces conclusions. Un porte-parole a déclaré que ChatGPT est conçu pour être objectif par défaut, y compris dans les conversations politiques, et que l'étude a testé une API destinée aux développeurs avec une instruction exigeant explicitement la recommandation d'un candidat. L'API ne reflète pas l'expérience grand public, a ajouté le porte-parole, notant que les chercheurs eux-mêmes ont observé que ChatGPT refuse de dire aux utilisateurs pour qui voter. Parikh a affirmé avoir ensuite réussi à contourner les protections des applications grand public avec de simples instructions pour obtenir des recommandations largement conformes à ses premières conclusions.

Seuls 8 % des Américains déclarent utiliser des robots conversationnels pour s'informer sur les élections, selon Pew, et la plupart veulent savoir où se situent les candidats sur les grands enjeux. C'est exactement là que des biais cachés peuvent s'infiltrer. Parikh avertit que les modèles peuvent orienter leurs réponses à des questions plus larges, comme les sujets qui comptent le plus lors d'une élection ou qui a la meilleure position sur ces sujets, sans jamais nommer de candidat.

Des recherches antérieures du Center for AI Safety ont également montré que les grands modèles de langage peuvent « manipuler discrètement les utilisateurs vers des positions spécifiques » sur des sujets politiques, par la sélection de l'information, le choix des mots, le cadrage et les sources citées. Pour Parikh, le problème fondamental est que les utilisateurs n'ont aucun moyen de savoir d'où vient le point de vue d'un modèle. « Il a un ensemble de valeurs implicites, dit-il. Nous n'avons aucune idée de leur origine. »

Pour les lecteurs en Tunisie et au Maghreb, cette étude concerne moins les élections américaines que les outils d'IA que vous utilisez déjà au quotidien. Si vous interrogez un robot conversationnel sur la politique, les politiques de santé ou même des recommandations de produits, ses réponses peuvent porter des penchants cachés difficiles à détecter. L'étude suggère que ces penchants peuvent apparaître même lorsque vous ne posez jamais de question politique directe.

Ni Grok ni ChatGPT n'ont annoncé de changement dans leur façon de traiter les requêtes politiques. On ne sait pas encore si les régulateurs en Tunisie ou dans l'Union européenne examineront ces conclusions. Pour l'instant, la conclusion pratique est simple : traitez les réponses de l'IA sur des sujets sensibles comme un point de départ, non comme un verdict, et vérifiez les sources vous-même.