Un développeur répondant au pseudonyme synchopate a fait la démonstration de DeepSeek-V4-Flash, un modèle à mélange d'experts (MoE) de 284 milliards de paramètres, fonctionnant sur une machine dotée de seulement 64Go de RAM et sans carte graphique. Le projet, hébergé sur GitHub sous le nom llama-modchip, affirme que le modèle utilise moins de 59GiB de RAM à une longueur de contexte de 256K et peut générer entre 9,1 et 14,7 tokens par seconde sur une configuration purement CPU. Des vitesses de traitement de prompt plus élevées, à 44,4 tokens par seconde, sont également citées. Des modèles à mélange d'experts plus petits de 30 milliards de paramètres atteignent 25 à 111 tokens par seconde dans les mêmes conditions.
Le dépôt a rapidement attiré l'attention sur Hacker News et Reddit, où les développeurs y voient une performance majeure pour l'IA locale. Faire tourner un modèle de cette taille sans accélérateur remet en cause l'idée que l'inférence de niveau frontière exige des GPU coûteux, et cela survient dans un contexte d'intérêt croissant pour DeepSeek et les workflows basés sur des agents.
Fiche technique et performances du DeepSeek-V4-Flash 284B
Les chiffres proviennent du README du projet et de son suivi des issues. Le dépôt mentionne des composants supplémentaires : SwiGLU-H2, une intégration Stockfish-PVS L3, et ce qui est appelé un workflow Claude Code à 13ms. Un chiffre de latence de 13ms pour une interaction Claude Code est frappant, même si le dépôt ne fournit pas le contexte complet ni la méthodologie de benchmark dans l'extrait disponible.
Comme pour toute revendication de performance open source, la vérification indépendante reste en attente. Le projet est public sur GitHub et a attiré dix issues, ce qui suggère un examen actif de la communauté. Ces issues peuvent contenir des questions sur la reproductibilité, ce qui est typique pour les projets viraux d'efficacité en IA.
- Modèle : DeepSeek-V4-Flash, 284 milliards de paramètres (mélange d'experts)
- Matériel : CPU pur avec 64Go de RAM, aucun GPU
- Utilisation de la RAM : moins de 59GiB à une longueur de contexte de 256K
