Servir GLM 5.2 avec vLLM

GLM 5.2 compte 744 milliards de paramètres. vLLM vise service en production, débit et concurrence. Cette page donne la mémoire nécessaire et les plateformes qui conviennent.

Réponse courte. vLLM sert GLM 5.2 dès lors que la machine offre au moins 428 Go de mémoire, empreinte des poids en NVFP4. 7 des 8 plateformes du catalogue y parviennent.

Quelle mémoire faut-il au minimum ?

GLM 5.2 totalise 744 milliards de paramètres. En NVFP4, ses poids occupent environ 428 Go, marge d’exécution comprise. En FP8 l’empreinte double, à environ 856 Go. Le cache d’attention s’ajoute et dépend du contexte servi.

À quoi sert vLLM ?

vLLM vise service en production, débit et concurrence. Voir la fiche vLLM et la fiche GLM 5.2.

Sur quelles plateformes ?

Quelle mémoire pour GLM 5.2 avec vLLM ?

Environ 428 Go en NVFP4 pour les poids, hors cache d’attention.

vLLM convient-il à GLM 5.2 ?

vLLM sert GLM 5.2 dès lors que la machine offre au moins 428 Go de mémoire, empreinte des poids en NVFP4. 7 des 8 plateformes du catalogue y parviennent.

Méthode

Les valeurs proviennent des fiches du site. Les empreintes mémoire sont calculées, elles ne sont pas mesurées : un relevé sur machine peut s’en écarter selon le moteur et le format exact des poids. Les prix sont indicatifs et non contractuels.