Servir Kimi K2.7 Code avec Unsloth

Kimi K2.7 Code compte 1000 milliards de paramètres. Unsloth vise affinage et quantification. Cette page donne la mémoire nécessaire et les plateformes qui conviennent.

Réponse courte. Unsloth sert Kimi K2.7 Code dès lors que la machine offre au moins 575 Go de mémoire, empreinte des poids en NVFP4. 6 des 8 plateformes du catalogue y parviennent.

Quelle mémoire faut-il au minimum ?

Kimi K2.7 Code totalise 1000 milliards de paramètres. En NVFP4, ses poids occupent environ 575 Go, marge d’exécution comprise. En FP8 l’empreinte double, à environ 1 150 Go. Le cache d’attention s’ajoute et dépend du contexte servi.

À quoi sert Unsloth ?

Unsloth vise affinage et quantification. Voir la fiche Unsloth et la fiche Kimi K2.7 Code.

Sur quelles plateformes ?

Quelle mémoire pour Kimi K2.7 Code avec Unsloth ?

Environ 575 Go en NVFP4 pour les poids, hors cache d’attention.

Unsloth convient-il à Kimi K2.7 Code ?

Unsloth sert Kimi K2.7 Code dès lors que la machine offre au moins 575 Go de mémoire, empreinte des poids en NVFP4. 6 des 8 plateformes du catalogue y parviennent.

Méthode

Les valeurs proviennent des fiches du site. Les empreintes mémoire sont calculées, elles ne sont pas mesurées : un relevé sur machine peut s’en écarter selon le moteur et le format exact des poids. Les prix sont indicatifs et non contractuels.