Anthropic affirme avoir fortement réduit le volume de données que les campagnes de distillation illicite parviennent à extraire de ses modèles Claude, selon un billet de blog de l'entreprise relayé par Techmeme. La société assure que des preuves préliminaires montrent que ses nouvelles défenses ont fait chuter d'environ 90 à 99 % les données ainsi aspirées.
La distillation consiste à générer des millions de réponses à partir d'un grand modèle et à s'en servir pour entraîner un modèle plus petit qui imite son comportement. Anthropic la présente comme une opération de copie non autorisée à l'échelle industrielle, souvent menée via des réseaux de comptes frauduleux, et liée à la fois à la concurrence entre entreprises et à des préoccupations de sécurité nationale.
Comment Anthropic contrecarre les attaques par distillation
Ces défenses portent sur le raisonnement de Claude, c'est-à-dire la réflexion interne que le modèle rédige avant de répondre. Anthropic indique que ces transcriptions ont bien plus de valeur pour les distillateurs que de simples sorties, car elles montrent comment une conclusion a été atteinte, et pas seulement son résultat.
Une première mesure demandait à Claude de résumer son raisonnement avant de le montrer aux utilisateurs. Anthropic a testé un modèle Claude pré-entraîné sur le benchmark de code SWE-bench Verified après l'avoir entraîné sur des transcriptions de Claude Opus 4.8 : les transcriptions complètes l'ont porté à 80,4 %, tandis que les transcriptions résumées l'ont limité à 71,8 %. Les attaquants ont riposté par de l'extraction active, depuis de simples requêtes exigeant le raisonnement mot pour mot jusqu'à un laboratoire testant 12 000 requêtes conçues pour tromper le modèle de différentes manières.
Anthropic affirme avoir renforcé la détection des tentatives d'extraction de raisonnement, et que la réflexion préservée dans Fable 5.1 et Opus 5.5 fait partie des mesures plus récentes. L'entreprise reconnaît les compromis : elle a renoncé à des revenus significatifs et à des milliers de milliards de tokens de trafic payant venant de distillateurs, et certains utilisateurs légitimes ont dû mettre à jour leurs intégrations.
