Un tribunal brésilien du travail a sanctionné et condamné deux avocats après avoir découvert qu'ils avaient délibérément dissimulé un ordre d'injection de prompt dans une requête, selon un rapport de JetStream Security. L'affaire a débuté par une plainte pour licenciement déposée auprès du 3e tribunal du travail de Parauapebas, dans l'État du Pará, au Brésil.
Les avocats savaient que les tribunaux brésiliens utilisent un système d'IA pour examiner les requêtes, et ils ont intégré une instruction visant à ce que ce système traite leur affaire avec indulgence. Le tribunal a condamné les deux cabinets qui ont déposé conjointement la requête entachée à 10 % de la valeur de la demande. Celle-ci s'élevait à 842 000 réaux brésiliens, soit environ 16 000 dollars.
Comment l'injection de prompt a été dissimulée
Lors de l'examen de la requête par le juge via Galileu, l'outil d'IA générative utilisé à l'échelle nationale par le Conseil national de justice du Brésil, le système a détecté un texte en blanc sur fond blanc, invisible pour quiconque lit le document normalement. Une fois la couleur de police modifiée, l'instruction cachée devenait lisible : elle demandait à l'IA de répondre à la requête de manière superficielle et de ne pas contester les documents, indépendamment de toute autre consigne.
Le média brésilien G1 a rapporté que Galileu a déclenché une alerte et bloqué automatiquement le traitement du contenu suspect dès que la tentative d'ingérence a été identifiée.
Pourquoi le tribunal a qualifié cela d'attaque contre la justice
Le tribunal a conclu que les avocats voulaient pousser tout système d'IA utilisé par la partie adverse ou par le tribunal lui-même à produire une réponse superficielle ou un projet de jugement biaisé, au détriment du défendeur et de l'administration de la justice. Il a qualifié ce comportement d'acte portant atteinte à la dignité de la justice.
