QDNAConseil et architecture de plateformes d'inférence et d'entraînement de LLM, en local ou hybride

Servir Kimi K2.7 Code avec Dynamo

Kimi K2.7 Code compte 1000 milliards de paramètres. Dynamo vise service distribué sur plusieurs nœuds. Cette page donne la mémoire nécessaire et les plateformes qui conviennent.

Réponse courte. Dynamo sert Kimi K2.7 Code dès lors que la machine offre au moins 575 Go de mémoire, empreinte des poids en NVFP4. 6 des 8 plateformes du catalogue y parviennent.

Quelle mémoire faut-il au minimum ?

Kimi K2.7 Code totalise 1000 milliards de paramètres. En NVFP4, ses poids occupent environ 575 Go, marge d’exécution comprise : 1 000 milliards de paramètres × 0,5 octet (NVFP4) = 500,0 Go de poids ; × 1,15 de marge d’exécution = 575,0 Go. En FP8 l’empreinte double, à environ 1 150 Go (1 000 milliards de paramètres × 1 octet (FP8) = 1 000,0 Go de poids ; × 1,15 de marge d’exécution = 1 150,0 Go.) Le cache d’attention n’est pas calculé sur cette page. Les architectures de ces modèles (attention latente compressée, linéaire ou creuse, couches Mamba) n’ont pas de formule commune par token ; il se mesure sur la machine, avec le contexte et la concurrence visés [À MESURER].

À quoi sert Dynamo ?

Dynamo vise service distribué sur plusieurs nœuds. Voir la fiche Dynamo et la fiche Kimi K2.7 Code.

Sur quelles plateformes ?

Quelle mémoire pour Kimi K2.7 Code avec Dynamo ?

Environ 575 Go en NVFP4 pour les poids, hors cache d’attention.

Dynamo convient-il à Kimi K2.7 Code ?

Dynamo sert Kimi K2.7 Code dès lors que la machine offre au moins 575 Go de mémoire, empreinte des poids en NVFP4. 6 des 8 plateformes du catalogue y parviennent.

Méthode et sources

Les empreintes mémoire sont calculées, elles ne sont pas mesurées : un relevé sur machine peut s’en écarter selon le moteur et le format exact des poids. Chaque valeur ci-dessous porte sa source et la date de son dernier contrôle.