QDNAConseil et architecture de plateformes d'inférence et d'entraînement de LLM, en local ou hybride

Faire tourner Qwen 3.8 27B sur DGX Spark

Qwen 3.8 27B compte 27 milliards de paramètres. DGX Spark offre 128 Go de mémoire LPDDR5X unifiée. Cette page confronte les deux.

Réponse courte. Qwen 3.8 27B tient largement sur DGX Spark. En FP16, ses poids occupent environ 62,1 Go sur les 128 Go disponibles, soit 65,9 Go laissés au cache d’attention et à la concurrence.

Quelle mémoire Qwen 3.8 27B demande-t-il ?

Les poids occupent le nombre de paramètres multiplié par la taille du format, plus une marge d’exécution de 15 % pour les activations et les tampons. En FP16, le calcul s’écrit : 27 milliards de paramètres × 2 octets (FP16) = 54,0 Go de poids ; × 1,15 de marge d’exécution = 62,1 Go. Le cache d’attention s’ajoute par-dessus : il croît avec la longueur du contexte et avec le nombre de requêtes simultanées, donc il se dimensionne au cas par cas.

FormatPoids en mémoireSur cette machineCe que le format coûte
FP1662,1 Gotientpleine précision, référence de qualité
FP831,0 Gotientperte négligeable sur la plupart des tâches
NVFP415,5 Gotientformat Blackwell, calcul FP4 natif
Q418,6 Gotientquantification par blocs, large support

Fiche du modèle : 27 milliards de paramètres, architecture dense, contexte de 262 144 tokens, licence Apache 2.0. Modèle dense : tous les paramètres calculent à chaque token. Le dépôt BF16 compte 27,8 milliards d’éléments (56 Go).

Que reste-t-il pour servir des requêtes ?

Qwen 3.8 27B tient largement sur DGX Spark. En FP16, ses poids occupent environ 62,1 Go sur les 128 Go disponibles, soit 65,9 Go laissés au cache d’attention et à la concurrence. La marge disponible décide du nombre de requêtes simultanées et de la longueur de contexte tenable. Par convention QDNA, une machine « tient » quand les poids occupent au plus 75 % de sa mémoire ; au-delà, elle « tient tout juste » et contraint à limiter le contexte ou la concurrence. Le cache d’attention n’est pas calculé sur cette page. Les architectures de ces modèles (attention latente compressée, linéaire ou creuse, couches Mamba) n’ont pas de formule commune par token ; il se mesure sur la machine, avec le contexte et la concurrence visés [À MESURER].

DGX Spark : prix indicatif 5 850 à 7 511 € TTC, non contractuel. Source : meilleur prix 5 850 € TTC soit 4 875 € HT, relevé sur idealo.fr le 2 septembre 2026. La machine vise le segment TPE.

Où faire tourner Qwen 3.8 27B autrement ?

Voir aussi la fiche Qwen 3.8 27B et la fiche DGX Spark.

Quelle mémoire faut-il pour Qwen 3.8 27B ?

En FP16, les poids occupent environ 62,1 Go, marge d’exécution comprise. Le cache d’attention s’ajoute et dépend du contexte.

Qwen 3.8 27B tient-il sur DGX Spark ?

Qwen 3.8 27B tient largement sur DGX Spark. En FP16, ses poids occupent environ 62,1 Go sur les 128 Go disponibles, soit 65,9 Go laissés au cache d’attention et à la concurrence.

Méthode et sources

L’empreinte est calculée, elle n’est pas mesurée : un relevé sur machine peut s’en écarter selon le moteur et le format exact des poids. Chaque valeur ci-dessous porte sa source et la date de son dernier contrôle.