Un nombre croissant de startups modifient de puissants modèles d'IA chinois à poids ouverts pour en retirer la censure et renforcer leur sécurité pour les entreprises occidentales, selon un rapport de Rest of World. Ces entreprises, dont Hirundo basée en Israël et Lazarus AI basée à Boston, utilisent des techniques telles que le désapprentissage automatique et la modification directe des poids pour réaligner les modèles de DeepSeek, Qwen d'Alibaba, Moonshot, Z.AI et Tencent.
La tendance s'est développée après la publication par DeepSeek de son premier grand modèle de langage à poids ouverts l'an dernier. Les modèles chinois ont conquis les utilisateurs, y compris des entreprises américaines, grâce à des coûts plus bas, de solides capacités et des options de personnalisation. Mais certaines entreprises occidentales craignent que ces modèles ne soient trop étroitement alignés sur le Parti communiste chinois et ne soient pas aussi sûrs que les systèmes fermés.
Comment le désapprentissage automatique réaligne les modèles d'IA chinois
Ben Luria, cofondateur et PDG de Hirundo, a décrit le processus comme de la « neurochirurgie » — une intervention chirurgicale qui cible les valeurs, les perceptions géopolitiques, la censure et les biais alignés sur l'État. Son équipe modifie les poids des modèles ouverts pour les rendre plus sûrs contre les cyberattaques, améliorer l'équité et réduire les connaissances dangereuses telles que les informations sur les armes biologiques.
Lazarus AI a suivi une voie différente avec les modèles Qwen d'Alibaba. Elle a identifié les sujets interdits à partir de directives de censure fuitées, généré des invites autour de ces sujets et utilisé les réponses de Gemini Flash de Google pour réaligner les modèles. Après l'intervention, les modèles pouvaient produire des informations qui ne figuraient pas dans leurs supports d'entraînement, comme des noms de militants pro-démocratie, ce qui suggère que ces connaissances avaient été apprises mais supprimées.
