Servir Kimi K3 avec Dynamo
Kimi K3 compte 2800 milliards de paramètres. Dynamo vise service distribué sur plusieurs nœuds. Cette page donne la mémoire nécessaire et les plateformes qui conviennent.
Quelle mémoire faut-il au minimum ?
Kimi K3 totalise 2800 milliards de paramètres. En NVFP4, ses poids occupent environ 1 610 Go, marge d’exécution comprise. En FP8 l’empreinte double, à environ 3 220 Go. Le cache d’attention s’ajoute et dépend du contexte servi.
À quoi sert Dynamo ?
Dynamo vise service distribué sur plusieurs nœuds. Voir la fiche Dynamo et la fiche Kimi K3.
Sur quelles plateformes ?
Quelle mémoire pour Kimi K3 avec Dynamo ?
Environ 1 610 Go en NVFP4 pour les poids, hors cache d’attention.
Dynamo convient-il à Kimi K3 ?
Dynamo sert Kimi K3 dès lors que la machine offre au moins 1 610 Go de mémoire, empreinte des poids en NVFP4. 2 des 8 plateformes du catalogue y parviennent.
Méthode
Les valeurs proviennent des fiches du site. Les empreintes mémoire sont calculées, elles ne sont pas mesurées : un relevé sur machine peut s’en écarter selon le moteur et le format exact des poids. Les prix sont indicatifs et non contractuels.