Servir Qwen 3.6 27B avec llama.cpp

Qwen 3.6 27B compte 27 milliards de paramètres. llama.cpp vise poste de travail et matériel modeste. Cette page donne la mémoire nécessaire et les plateformes qui conviennent.

Réponse courte. llama.cpp sert Qwen 3.6 27B dès lors que la machine offre au moins 15,5 Go de mémoire, empreinte des poids en NVFP4. 8 des 8 plateformes du catalogue y parviennent.

Quelle mémoire faut-il au minimum ?

Qwen 3.6 27B totalise 27 milliards de paramètres. En NVFP4, ses poids occupent environ 15,5 Go, marge d’exécution comprise. En FP8 l’empreinte double, à environ 31,0 Go. Le cache d’attention s’ajoute et dépend du contexte servi.

À quoi sert llama.cpp ?

llama.cpp vise poste de travail et matériel modeste. Voir la fiche llama.cpp et la fiche Qwen 3.6 27B.

Sur quelles plateformes ?

Quelle mémoire pour Qwen 3.6 27B avec llama.cpp ?

Environ 15,5 Go en NVFP4 pour les poids, hors cache d’attention.

llama.cpp convient-il à Qwen 3.6 27B ?

llama.cpp sert Qwen 3.6 27B dès lors que la machine offre au moins 15,5 Go de mémoire, empreinte des poids en NVFP4. 8 des 8 plateformes du catalogue y parviennent.

Méthode

Les valeurs proviennent des fiches du site. Les empreintes mémoire sont calculées, elles ne sont pas mesurées : un relevé sur machine peut s’en écarter selon le moteur et le format exact des poids. Les prix sont indicatifs et non contractuels.