QDNAConseil et architecture de plateformes d'inférence et d'entraînement de LLM, en local ou hybride

Servir Kimi K3 avec vLLM

Kimi K3 compte 2800 milliards de paramètres. vLLM vise service en production, débit et concurrence. Cette page donne la mémoire nécessaire et les plateformes qui conviennent.

Par QDNA · Publié le · Mis à jour le

Réponse courte. vLLM sert Kimi K3 dès lors que la machine offre au moins 1 610 Go de mémoire, empreinte des poids en NVFP4. 2 des 8 plateformes du catalogue y parviennent.

Quelle mémoire faut-il au minimum ?

Kimi K3 totalise 2800 milliards de paramètres. En NVFP4, ses poids occupent environ 1 610 Go, marge d’exécution comprise : 2 800 milliards de paramètres × 0,5 octet (NVFP4) = 1 400,0 Go de poids ; × 1,15 de marge d’exécution = 1 610,0 Go. En FP8 l’empreinte double, à environ 3 220 Go (2 800 milliards de paramètres × 1 octet (FP8) = 2 800,0 Go de poids ; × 1,15 de marge d’exécution = 3 220,0 Go.) Le cache d’attention n’est pas calculé sur cette page. Les architectures de ces modèles (attention latente compressée, linéaire ou creuse, couches Mamba) n’ont pas de formule commune par token ; il se mesure sur la machine, avec le contexte et la concurrence visés [À MESURER].

À quoi sert vLLM ?

vLLM vise service en production, débit et concurrence. Voir la fiche vLLM et la fiche Kimi K3.

Sur quelles plateformes ?

Quelle mémoire pour Kimi K3 avec vLLM ?

Environ 1 610 Go en NVFP4 pour les poids, hors cache d’attention.

vLLM convient-il à Kimi K3 ?

vLLM sert Kimi K3 dès lors que la machine offre au moins 1 610 Go de mémoire, empreinte des poids en NVFP4. 2 des 8 plateformes du catalogue y parviennent.

Méthode et sources

Les empreintes mémoire sont calculées, elles ne sont pas mesurées : un relevé sur machine peut s’en écarter selon le moteur et le format exact des poids. Chaque valeur ci-dessous porte sa source et la date de son dernier contrôle.