Calculateur de mémoire VRAM : quel LLM tient sur quelle machine ?

Combien de mémoire faut-il pour servir un modèle à poids ouverts, et sur quelle machine tient-il ? Ce calculateur, aussi appelé sizer LLM, compte les poids publiés, le cache clé-valeur et l'état des couches récurrentes. Il vérifie, machine par machine, la mémoire de chaque GPU, le débit par utilisateur et le délai du premier jeton.

Publié le 6 septembre 2026 · Mis à jour le 12 octobre 2026 · Version 3.1

Réponse courte. Les poids d'un modèle occupent ses paramètres multipliés par les octets du format, soit deux en BF16, un en FP8 et environ 0,56 en NVFP4, puis le cache clé-valeur s'y ajoute et croît avec le contexte comme avec le nombre d'utilisateurs simultanés. Vous cherchez à louer un serveur GPU à l’heure plutôt qu’à l’acheter ? Consultez le comparateur de prix de location de serveurs GPU (Nebius, NVIDIA Brev, toutes marques) ou le comparateur API au jeton contre serveur sur site.

Le calcul interactif demande JavaScript, mais le tableau « Quel serveur pour quel modèle ? » plus haut en donne l'essentiel en indiquant, pour chaque modèle et chaque format, la machine la moins chère qui loge les poids et la part de mémoire qu'elle laisse au cache clé-valeur.

Dimensionner l'inférence et choisir la machine

1. Modèle

Configuration recommandée

QLoRA

2. Format des poids

3. Précision du cache clé-valeur

4. Moteur d'inférence

Décodage spéculatif (têtes MTP du modèle)

5. Contexte par requête

6. Utilisateurs simultanés

7. Vitesse cible par utilisateur

8. Délai cible du premier jeton

Hypothèses avancées

Activité (part des heures)

Jetons générés par réponse

Temps de lecture ou d'outil entre deux requêtes

Part du contexte envoyée comme invite

Hypothèse : invite déjà en cache dans le moteur

Hypothèse : préfixe commun à tous (jetons)

Hypothèse : réponses servies par le cache de la passerelle

Un cache de réponses de passerelle ne libère aucune mémoire GPU : il réduit seulement le préremplissage demandé.

Premier jeton jugé sur

Parallélisme

Mémoire : poids + cache + état

Poids -- · cache -- · état --

Bande passante requise

calcul, hors latence fixe

Calcul de préremplissage

denses en FP8, rendement 0,40

Débit cible agrégé (demande)

Coût le plus bas par million de jetons générés

Légende des cartes : QUALIFIÉE Mémoire suffisante, débit et premier jeton dans la cible (calcul).

Contexte maximal par machine

Contexte maximal qu'un utilisateur seul peut ouvrir, une fois les poids chargés, sur huit machines de référence : en NVFP4 sur le matériel qui l'exécute, en FP8 ailleurs, avec un cache en 8 bits. Plusieurs utilisateurs se partagent ce budget de jetons.

Modèle	Lenovo ThinkStation PGX GB10	Station RTX 5090 (assemblage sur mesure)	Station 1x NVIDIA RTX PRO 6000 Blackwell (96 Go)	Apple Mac Studio M5 Ultra (512 Go unifiée, 1 200 Go/s)	Supermicro Super AI Station (ARS-511GD-NB-LCC)	Serveur 8x NVIDIA RTX PRO 6000 Blackwell Server Edition (768 Go)	NVIDIA DGX H200 (8x H200)	NVIDIA DGX B300 (8x B300)
Kimi K3	ne loge pas	ne loge pas	ne loge pas	ne loge pas	ne loge pas	ne loge pas	ne loge pas	1 048 576
DeepSeek V4 Pro 0813	ne loge pas	ne loge pas	ne loge pas	ne loge pas	ne loge pas	ne loge pas	ne loge pas	1 048 576
DeepSeek V4.1 Flash 1017	ne loge pas	ne loge pas	ne loge pas	ne loge pas	1 048 576	1 048 576	1 048 576	1 048 576
GLM 5.3	ne loge pas	ne loge pas	ne loge pas	ne loge pas	1 048 576	632 851	781 218	1 048 576
GLM 5.3 Flash	ne loge pas	ne loge pas	ne loge pas	1 048 576	1 048 576	1 048 576	1 048 576	1 048 576
Mistral Large 4	ne loge pas	ne loge pas	ne loge pas	ne loge pas	cache non publié	cache non publié	cache non publié	cache non publié
MiniMax M3	ne loge pas	ne loge pas	ne loge pas	ne loge pas	1 048 576	1 048 576	1 048 576	1 048 576
Qwen 3.5	ne loge pas	ne loge pas	ne loge pas	895 254 (YaRN)	1 010 000 (YaRN)	1 010 000 (YaRN)	1 010 000 (YaRN)	1 010 000 (YaRN)
Qwen 3.8 Flash Next	ne loge pas	ne loge pas	ne loge pas	1 000 000 (YaRN)	1 000 000 (YaRN)	1 000 000 (YaRN)	1 000 000 (YaRN)	1 000 000 (YaRN)
DeepSeek-V3	ne loge pas	ne loge pas	ne loge pas	ne loge pas	163 840 (YaRN)	163 840 (YaRN)	163 840 (YaRN)	163 840 (YaRN)
DeepSeek Coder V2	ne loge pas	ne loge pas	ne loge pas	163 840 (YaRN)	163 840 (YaRN)	163 840 (YaRN)	163 840 (YaRN)	163 840 (YaRN)
Llama 3.1 405B	ne loge pas	ne loge pas	ne loge pas	8 761	46 316	131 072	131 072	131 072
Nemotron-4 340B	ne loge pas	ne loge pas	ne loge pas	4 096	4 096	4 096	4 096	4 096
Mistral Large 2	131 072	ne loge pas	122 199	131 072	131 072	131 072	131 072	131 072
Llama 3.3 70B	131 072	ne loge pas	131 072	131 072	131 072	131 072	131 072	131 072
Qwen 2.5 72B	131 072 (YaRN)	ne loge pas	131 072 (YaRN)	131 072 (YaRN)	131 072 (YaRN)	131 072 (YaRN)	131 072 (YaRN)	131 072 (YaRN)
Qwen 2.5 Coder 32B	131 072 (YaRN)	63 008 (YaRN)	131 072 (YaRN)	131 072 (YaRN)	131 072 (YaRN)	131 072 (YaRN)	131 072 (YaRN)	131 072 (YaRN)
Qwen 3.8 27B	1 000 000 (YaRN)	209 826	1 000 000 (YaRN)	1 000 000 (YaRN)	1 000 000 (YaRN)	1 000 000 (YaRN)	1 000 000 (YaRN)	1 000 000 (YaRN)
Devstral Small 24B	131 072	131 072	131 072	131 072	131 072	131 072	131 072	131 072
Llama 3.1 8B	131 072	131 072	131 072	131 072	131 072	131 072	131 072	131 072

Capacité mensuelle par modèle et par machine

Ce tableau donne, pour chaque modèle, les millions de jetons qu'une machine génère en un mois à pleine charge, sur 730 heures. La pleine charge réunit le plus d'utilisateurs possible à 30 jetons par seconde chacun, avec un premier jeton sous une seconde.

Les requêtes comptent 8 192 jetons, et les poids sont en NVFP4 sur le matériel Blackwell, en FP8 ailleurs. À 30 % d'activité, le volume utile vaut 30 % de ces valeurs : c'est celui que retient le calcul du coût par million de jetons.

Modèle	Lenovo ThinkStation PGX GB10	Station RTX 5090 (assemblage sur mesure)	Station 1x NVIDIA RTX PRO 6000 Blackwell (96 Go)	Apple Mac Studio M5 Ultra (512 Go unifiée, 1 200 Go/s)	Supermicro Super AI Station (ARS-511GD-NB-LCC)	Serveur 8x NVIDIA RTX PRO 6000 Blackwell Server Edition (768 Go)	NVIDIA DGX H200 (8x H200)	NVIDIA DGX B300 (8x B300)	NVIDIA GB300 NVL72 (baie complète, 72 GPU Blackwell Ultra)
Kimi K3	ne loge pas	ne loge pas	ne loge pas	ne loge pas	ne loge pas	ne loge pas	ne loge pas	1 167	10 446
DeepSeek V4 Pro 0813	ne loge pas	ne loge pas	ne loge pas	ne loge pas	ne loge pas	ne loge pas	ne loge pas	5 667	123 333
DeepSeek V4.1 Flash 1017	ne loge pas	ne loge pas	ne loge pas	ne loge pas	cible non tenue	2 510	7 186	91 685	1 092 701
GLM 5.3	ne loge pas	ne loge pas	ne loge pas	ne loge pas	cible non tenue	313	1 153	7 814	142 835
GLM 5.3 Flash	ne loge pas	ne loge pas	ne loge pas	cible non tenue	1 952	2 563	8 029	54 965	564 872
Mistral Large 4	ne loge pas	ne loge pas	ne loge pas	ne loge pas	cache non publié	cache non publié	cache non publié	cache non publié	cache non publié
MiniMax M3	ne loge pas	ne loge pas	ne loge pas	ne loge pas	cible non tenue	1 102	3 411	31 763	351 803
Qwen 3.5	ne loge pas	ne loge pas	ne loge pas	cible non tenue	cible non tenue	1 709	4 995	33 159	391 386
Qwen 3.8 Flash Next	ne loge pas	ne loge pas	ne loge pas	cible non tenue	10 862	10 875	30 290	123 149	1 157 520
DeepSeek-V3	ne loge pas	ne loge pas	ne loge pas	ne loge pas	cible non tenue	488	1 415	8 309	156 437
DeepSeek Coder V2	ne loge pas	ne loge pas	ne loge pas	cible non tenue	1 945	1 229	4 004	27 928	278 228
Llama 3.1 405B	ne loge pas	ne loge pas	ne loge pas	cible non tenue	cible non tenue	cible non tenue	261	4 818	41 506
Nemotron-4 340B	ne loge pas	ne loge pas	ne loge pas	cible non tenue	cible non tenue	120	1 488	12 695	109 853
Mistral Large 2	cible non tenue	ne loge pas	cible non tenue	cible non tenue	1 091	1 569	2 996	15 191	131 954
Llama 3.3 70B	cible non tenue	ne loge pas	cible non tenue	cible non tenue	2 248	2 965	5 475	23 155	201 548
Qwen 2.5 72B	cible non tenue	ne loge pas	cible non tenue	cible non tenue	2 191	2 903	5 354	22 886	199 744
Qwen 2.5 Coder 32B	cible non tenue	216	431	cible non tenue	4 402	5 964	11 409	39 335	346 255
Qwen 3.8 27B	cible non tenue	658	781	cible non tenue	7 596	8 059	15 339	53 366	471 494
Devstral Small 24B	cible non tenue	826	968	cible non tenue	7 366	10 101	17 962	64 536	566 763
Llama 3.1 8B	cible non tenue	2 002	2 375	cible non tenue	12 208	18 367	39 530	104 332	925 766

Les formules, telles qu'appliquées

Le calculateur applique les formules ci-dessous, sans autre correction que celles qui sont nommées. Chaque résultat est un calcul tiré des fiches des constructeurs et des fichiers config.json, calé sur des mesures publiées, qui ne remplace pas une mesure sur votre charge réelle.

Poids : taille du point de contrôle publié pour le format, sinon paramètres par classe de tenseurs × octets du format (2 en BF16, 1 en FP8, 0,53 en INT4 avec ses échelles, 0,5625 en NVFP4, 0,606 en Q4_K_M), tête et plongements en BF16 (en Q6_K, 0,82 octet, pour le GGUF).
GGUF Q4_K_M : taille des fichiers publiés sur Hugging Face, relevée le 8 octobre 2026 ; chargé par llama.cpp, Ollama et TGI, et à titre expérimental par vLLM et SGLang sur NVIDIA seulement. llama.cpp répartit les couches entre les GPU, sans cumuler leur bande passante pour un utilisateur. DeepSeek V4.1 Flash 1017 n'a de GGUF que pour une branche dérivée de llama.cpp, Mistral Large 4 aucun.
Cache clé-valeur : par jeton et par couche : 2 × têtes KV × dimension × octets en attention par têtes, rang latent + RoPE en attention latente, octets publiés pour DeepSeek V4 ; multiplié par le contexte et les utilisateurs, préfixe commun compté une fois si le moteur le partage.
État récurrent : couches linéaires (Gated DeltaNet, KDA) : têtes × dk × dv × 4 octets par requête, sans croissance avec le contexte.
Mémoire utilisable : par GPU : 92 % de la mémoire moins 2,5 Gio ; Apple : 75 % de la mémoire unifiée ; Grace : la HBM seule, la LPDDR5X servant de débordement.
Décodage : un pas lit les poids actifs (l'union des experts sollicités par le lot) et le cache de chaque utilisateur ; durée = max(octets ÷ (bande passante × rendement), calcul ÷ (PFLOPS denses × rendement)) + latence fixe par couche ; débit par utilisateur = 1 ÷ durée, multiplié par le facteur de la famille de moteur.
Préremplissage : par blocs : 2 × paramètres actifs × jetons, plus l'attention causale, au débit du format sur le matériel ; premier jeton moyen et pire cas tirés d'une boucle fermée d'utilisateurs qui lisent la réponse puis renvoient une requête.
Statut : qualifiée si la mémoire suffit, que le débit atteint la cible et que le premier jeton tient le délai, sans tolérance cachée ; partielle si un critère manque ; hors jauge si la mémoire manque ; indéterminée si le calcul n'est pas possible.
Pleine charge : le plus grand nombre d'utilisateurs simultanés qui tiennent encore la vitesse, le premier jeton et la mémoire visés ; une baie de 72 GPU ou un pod de TPU se juge à ce nombre, pas à quelques utilisateurs. Sur TPU, les experts sont répartis par groupes de 4 puces, agrandis seulement si le modèle ne tient pas, comme dans les déploiements publiés.
Coût : (prix HT ÷ 26 280 h + puissance × 0,1624 € par kWh) ÷ jetons générés à l'heure au taux d'activité choisi, avec le nombre d'utilisateurs affiché et à pleine charge.

Hypothèses et sources, datées

Les hypothèses sont communes à nos outils et datées : électricité à 0,1624 € HT le kilowattheure, tarif Bleu professionnel du 1er août 2026 ; amortissement sur trente-six mois de 730 heures ; activité de 30 % des heures. Les prix hors taxes sont des relevés datés ou des fourchettes indicatives, majorés de 30 % en octobre 2026 pour suivre la hausse constatée du matériel.

Ces estimations sont calculées à partir des fiches des constructeurs et des fichiers config.json, puis calées sur 107 mesures publiées, dont 61 en baie, GPU et TPU (InferenceX de SemiAnalysis) ; 100 tombent à 30 % près. Elles ne remplacent pas une mesure sur votre charge, avec votre moteur, vos invites et vos utilisateurs.

Boîtiers empilés en RDMA

Les boîtiers GB10 s'empilent par deux en liaison directe, puis par trois, quatre ou huit derrière un commutateur RDMA, à 200 Gb/s par boîtier. Les DGX Station GB300 se relient par deux au plus, en direct, sur deux câbles de 400 Gb/s. Seules ces grappes publiées sont proposées.

Pour chaque machine empilable, il évalue chaque quantité et retient la plus petite qui obtient le meilleur verdict sans débordement de mémoire. Capacités, prix et consommation sont multipliés, réseau compris. Le temps de liaison s'ajoute à chaque pas, et le surcoût fixe par couche est calé sur des grappes mesurées : GB10 par ai-muninn et le forum NVIDIA, GB300 par StorageReview.

Catalogue des 66 machines

Ce tableau reprend les données du calculateur, lisibles sans JavaScript : mémoire, bande passante, calcul dense en BF16, FP8 et FP4 selon les fiches des constructeurs, consommation et prix hors taxes retenus pour le coût. Les chiffres avec parcimonie, deux fois plus hauts, sont mis de côté.

Machine	GPU	Mémoire	Bande passante	BF16 dense (PF)	FP8 dense (PF)	FP4 dense (PF)	Puissance retenue	Prix HT retenu	Source
Mini-PC IA AMD Ryzen AI Max+ 395 (Strix Halo 128 Go)	AMD Radeon 8060S (40 unités de calcul RDNA 3.5)	128 Go	0,26 To/s	0,06	aucun	aucun	180 W	3 333 € HT	fiche
Station IA 2x NVIDIA RTX 4090 (48 Go)	2x NVIDIA GeForce RTX 4090 (Ada Lovelace)	48,0 Go	2,02 To/s	0,33	0,66	aucun	1 250 W	4 167 € HT	fiche
Apple Mac Studio M2 Ultra (192 Go unifiée, occasion)	Apple M2 Ultra, 76 cœurs GPU	192 Go	0,80 To/s	0,03	aucun	aucun	295 W	4 200 € HT	fiche
Station Tenstorrent Wormhole n300 (carte n300 et hôte)	Carte n300 : 2 puces Wormhole à cœurs Tensix (RISC-V)	24,0 Go	0,58 To/s	0,13	0,47	aucun	650 W	4 300 € HT	fiche
Station mobile RTX PRO 5000 Blackwell (24 Go)	1x GPU NVIDIA RTX PRO 5000 Blackwell pour portable	24,0 Go	0,90 To/s	0,23	0,46	0,91	230 W	5 208 € HT	fiche
Apple Mac Studio M5 Ultra (96 Go unifiée, 1 200 Go/s)	Apple M5 Ultra, 64 cœurs GPU avec accélérateurs neuronaux (puce de base)	96,0 Go	1,20 To/s	0,08	aucun	aucun	385 W	5 499 € HT	fiche
Lenovo ThinkStation PGX GB10	NVIDIA GB10 Grace Blackwell	128 Go	0,27 To/s	0,12	0,25	0,50	240 W	6 500 € HT	fiche
Station RTX 5090 (assemblage sur mesure)	1x NVIDIA GeForce RTX 5090 (Blackwell GB202)	32,0 Go	1,79 To/s	0,21	0,42	1,68	925 W	6 500 € HT	fiche
HP ZGX Nano G1n AI Station	NVIDIA GB10 Grace Blackwell	128 Go	0,27 To/s	0,12	0,25	0,50	240 W	7 100 € HT	fiche
Gigabyte AI TOP ATOM	NVIDIA GB10 Grace Blackwell	128 Go	0,27 To/s	0,12	0,25	0,50	240 W	7 100 € HT	fiche
Dell Pro Precision with GB10 (anciennement Pro Max, DGX Spark)	NVIDIA GB10 Grace Blackwell	128 Go	0,27 To/s	0,12	0,25	0,50	280 W	7 400 € HT	fiche
ASUS Ascent GX10	NVIDIA GB10 Grace Blackwell	128 Go	0,27 To/s	0,12	0,25	0,50	240 W	8 300 € HT	fiche
Grappe de 2 Mac Studio M2 Ultra (384 Go, exo ou llama.cpp RPC)	2x Apple M2 Ultra 192 Go (76 cœurs GPU chacun)	384 Go	1,60 To/s	0,05	aucun	aucun	590 W	8 400 € HT	fiche
Station IA 4x NVIDIA RTX 4090 (96 Go)	4x NVIDIA GeForce RTX 4090 (Ada Lovelace)	96,0 Go	4,03 To/s	0,66	1,32	aucun	2 150 W	9 167 € HT	fiche
Station 1x NVIDIA RTX PRO 5000 Blackwell (48 Go)	1x NVIDIA RTX PRO 5000 Blackwell (GB202)	48,0 Go	1,34 To/s	0,26	0,52	1,03	650 W	9 600 € HT	fiche
Apple Mac Studio M5 Ultra (256 Go unifiée, 1 200 Go/s)	Apple M5 Ultra, 80 cœurs GPU avec accélérateurs neuronaux	256 Go	1,20 To/s	0,10	aucun	aucun	385 W	10 358 € HT	fiche
NVIDIA RTX PRO 6000 Blackwell Max-Q Edition (96 Go)	1x NVIDIA RTX PRO 6000 Blackwell Max-Q (GB202)	96,0 Go	1,79 To/s	0,44	0,88	1,76	650 W	20 000 € HT	fiche
Station 1x NVIDIA RTX PRO 6000 Blackwell (96 Go)	1x NVIDIA RTX PRO 6000 Blackwell (GB202)	96,0 Go	1,79 To/s	0,50	1,01	2,02	950 W	23 000 € HT	fiche
Supermicro SYS-221GE-NR (2x L40S)	2x NVIDIA L40S PCIe 48 Go	96,0 Go	1,73 To/s	0,72	1,47	aucun	1 500 W	33 000 € HT	fiche
Supermicro ARS-111GL-NHR (1x GH200 Grace Hopper)	Superpuce NVIDIA GH200 Grace Hopper	576 Go	4,00 To/s	0,99	1,98	aucun	1 300 W	48 000 € HT	fiche
Serveur 4x NVIDIA RTX PRO 5000 Blackwell (192 Go)	4x NVIDIA RTX PRO 5000 Blackwell 48 Go (GB202)	192 Go	5,38 To/s	1,03	2,06	4,13	2 000 W	50 000 € HT	fiche
Station de travail 4x NVIDIA RTX 6000 Ada	4x NVIDIA RTX 6000 Ada Generation (PCIe)	192 Go	3,84 To/s	1,46	2,91	aucun	1 550 W	55 000 € HT	fiche
Dell PowerEdge R750xa (4x A100 PCIe)	4x NVIDIA A100 PCIe 80 Go	320 Go	7,74 To/s	1,25	aucun	aucun	2 000 W	59 000 € HT	fiche
NVIDIA DGX Station A100 320 Go (4x A100 80 Go)	4x NVIDIA A100 SXM4 80 Go (HBM2e)	320 Go	8,16 To/s	1,25	aucun	aucun	1 500 W	76 000 € HT	fiche
Serveur 8x NVIDIA RTX PRO 5000 Blackwell (384 Go)	8x NVIDIA RTX PRO 5000 Blackwell 48 Go (GB202)	384 Go	10,8 To/s	2,06	4,13	8,26	3 900 W	96 000 € HT	fiche
Serveur 4x NVIDIA RTX PRO 6000 Blackwell Server Edition (384 Go)	4x NVIDIA RTX PRO 6000 Blackwell Server Edition (96 Go chacune)	384 Go	6,39 To/s	2,00	4,00	8,00	3 200 W	99 000 € HT	fiche
Supermicro Super AI Station (ARS-511GD-NB-LCC)	NVIDIA GB300 Blackwell Ultra Desktop	748 Go	7,10 To/s	2,50	5,00	15	1 600 W	114 000 € HT	fiche
MSI XpertStation WS300 (anciennement CT60-S8060)	NVIDIA GB300 Blackwell Ultra Desktop	748 Go	7,10 To/s	2,50	5,00	15	1 600 W	117 000 € HT	fiche
Exxact Valence VWS-158270643 (intégrateur, base MSI)	NVIDIA GB300 Blackwell Ultra Desktop	748 Go	7,10 To/s	2,50	5,00	15	1 600 W	124 000 € HT	fiche
BIZON GB300 (intégrateur)	NVIDIA GB300 Blackwell Ultra Desktop	748 Go	7,10 To/s	2,50	5,00	15	1 600 W	128 000 € HT	fiche
Gigabyte W775-V10-L01	NVIDIA GB300 Blackwell Ultra Desktop	748 Go	7,10 To/s	2,50	5,00	15	1 600 W	129 000 € HT	fiche
HP ZGX Fury G1n	NVIDIA GB300 Blackwell Ultra Desktop	748 Go	7,10 To/s	2,50	5,00	15	1 600 W	143 000 € HT	fiche
ASUS ExpertCenter Pro ET900N G3	NVIDIA GB300 Blackwell Ultra Desktop	748 Go	7,10 To/s	2,50	5,00	15	1 600 W	144 000 € HT	fiche
NVIDIA DGX A100 640 Go (8x A100 80 Go)	8x NVIDIA A100 SXM4 80 Go	640 Go	16,3 To/s	2,50	aucun	aucun	6 500 W	150 000 € HT	fiche
Dell PowerEdge R760xa (4x H100 PCIe)	4x NVIDIA H100 PCIe 80 Go (350 W)	320 Go	8,00 To/s	3,03	6,05	aucun	2 200 W	179 000 € HT	fiche
HPE ProLiant DL380a Gen11 (4x H100 PCIe 80 Go)	4x NVIDIA H100 PCIe 80 Go (HBM2e)	320 Go	8,00 To/s	3,03	6,05	aucun	2 200 W	189 000 € HT	fiche
Serveur 8x NVIDIA RTX PRO 6000 Blackwell Server Edition (768 Go)	8x NVIDIA RTX PRO 6000 Blackwell Server Edition (96 Go chacune)	768 Go	12,8 To/s	4,00	8,00	16	6 300 W	192 000 € HT	fiche
Supermicro SYS-421GE-TNRT3 (4x H100 NVL 94 Go)	4x NVIDIA H100 NVL 94 Go (2 paires reliées par NVLink)	376 Go	15,6 To/s	3,34	6,68	aucun	2 400 W	220 000 € HT	fiche
Dell Pro Precision with GB300 (anciennement Pro Max, FCT6263)	NVIDIA GB300 Blackwell Ultra Desktop	748 Go	7,10 To/s	2,50	5,00	15	1 600 W	225 000 € HT	fiche
SambaNova SN50 (nœud de 8 RDU)	8x RDU SambaNova SN50 (processeurs à flux de données reconfigurables)	512 Go	14,7 To/s	13	26	aucun	10 000 W	263 000 € HT	fiche
Supermicro AS-8125GS-TNMR2 (8x MI300X)	8x AMD Instinct MI300X OAM	1 536 Go	42,4 To/s	10	21	aucun	10 600 W	277 000 € HT	fiche
Dell PowerEdge XE9680 (8x AMD MI300X)	8x AMD Instinct MI300X OAM	1 536 Go	42,4 To/s	10	21	aucun	10 600 W	286 000 € HT	fiche
Supermicro AS-4125GS-TNRT1 (8x H100 PCIe)	8x NVIDIA H100 PCIe 80 Go (350 W)	640 Go	16,0 To/s	6,05	12	aucun	4 300 W	293 000 € HT	fiche
ASUS ESC N8-E11 (8x H100 HGX)	8x NVIDIA H100 SXM5	640 Go	26,8 To/s	7,92	16	aucun	10 200 W	319 000 € HT	fiche
Gigabyte G593-SD0 (8x H100 HGX)	8x NVIDIA H100 SXM5	640 Go	26,8 To/s	7,92	16	aucun	10 200 W	325 000 € HT	fiche
Supermicro SYS-821GE-TNHR (8x H100)	8x NVIDIA H100 SXM5	640 Go	26,8 To/s	7,92	16	aucun	10 200 W	335 000 € HT	fiche
Supermicro AS-8126GS-TNMR (8x AMD MI325X)	8x AMD Instinct MI325X OAM (256 Go HBM3e chacun)	2 048 Go	48,0 To/s	10	21	aucun	12 600 W	335 000 € HT	fiche
Dell PowerEdge XE9680 (8x H100 SXM5)	8x NVIDIA H100 SXM5	640 Go	26,8 To/s	7,92	16	aucun	10 200 W	361 000 € HT	fiche
Serveur 8x AMD Instinct MI355X OAM (CDNA 4)	8x AMD Instinct MI355X OAM (CDNA 4)	2 304 Go	64,0 To/s	20	40	81	15 800 W	380 000 € HT	fiche
Lenovo ThinkSystem SC777 V4 Neptune (GB200 NVL4)	4x NVIDIA B200 (GB200 NVL4, 186 Go chacun)	744 Go	32,0 To/s	10	20	40	5 800 W	393 000 € HT	fiche
Supermicro SYS-821GE-TNHR-B100 (8x B100, non commercialisé)	8x NVIDIA Blackwell B100 SXM (192 Go HBM3e, spécifications préliminaires)	1 536 Go	64,0 To/s	14	28	56	10 200 W	410 000 € HT	fiche
NVIDIA DGX H200 (8x H200)	8x NVIDIA H200 SXM5	1 128 Go	38,4 To/s	7,92	16	aucun	10 200 W	429 000 € HT	fiche
Dell PowerEdge XE9680L (8x B200 DLC)	8x NVIDIA Blackwell B200 SXM	1 440 Go	64,0 To/s	18	36	72	14 300 W	494 000 € HT	fiche
NVIDIA DGX B200 (8x B200)	8x NVIDIA Blackwell B200 SXM	1 440 Go	64,0 To/s	18	36	72	14 300 W	527 000 € HT	fiche
NVIDIA DGX B300 (8x B300)	8x NVIDIA Blackwell Ultra B300 SXM	2 304 Go	64,0 To/s	18	36	108	15 000 W	736 000 € HT	fiche
NVIDIA GB200 NVL72 (baie complète, 72 GPU)	72x GPU Blackwell B200	13 392 Go	576,0 To/s	180	360	720	132 000 W	4 225 000 € HT	fiche
NVIDIA GB300 NVL72 (baie complète, 72 GPU Blackwell Ultra)	72x NVIDIA Blackwell Ultra B300 (288 Go HBM3e)	20 736 Go	576,0 To/s	180	360	1 080	135 000 W	4 745 000 € HT	fiche
Lenovo ThinkSystem SR675 V3 (4x H100 SXM5, configuration retirée)	4x NVIDIA H100 SXM5	320 Go	13,4 To/s	3,96	7,92	aucun	3 600 W	prix non relevé	fiche
HPE Cray EX255a (El Capitan)	4x AMD Instinct MI300A par nœud (2 nœuds et 8 APU par lame)	512 Go	21,2 To/s	3,92	7,84	aucun	3 000 W	prix non relevé	fiche
Apple Mac Studio M5 Ultra (512 Go unifiée, 1 200 Go/s)	Apple M5 Ultra, 80 cœurs GPU avec accélérateurs neuronaux	512 Go	1,20 To/s	0,10	aucun	aucun	385 W	prix non relevé	fiche
Apple Mac Studio M3 Ultra (256 Go unifiée, 2025)	Apple M3 Ultra, 80 cœurs GPU	256 Go	0,82 To/s	0,03	aucun	aucun	270 W	prix non relevé	fiche
AMD Helios (baie complète, 72 GPU Instinct MI455X)	72x AMD Instinct MI455X (432 Go HBM4)	31 104 Go	1 677,6 To/s	720	1 440	2 880	n.c.	prix non relevé	fiche
Pod Google TPU7x Ironwood (tranche de 64 puces)	64x puces Google TPU7x Ironwood	13 194 Go	472,3 To/s	148	295	aucun	n.c.	prix non relevé	fiche
2x NVIDIA H200 NVL (paire PCIe avec pont NVLink)	2x NVIDIA H200 NVL PCIe (141 Go HBM3e chacune)	282 Go	9,60 To/s	1,67	3,34	aucun	2 000 W	prix non relevé	fiche
Dell PowerEdge XE8640 (4x H100 SXM5)	4x NVIDIA H100 SXM5 80 Go (700 W), reliés par NVLink	320 Go	13,4 To/s	3,96	7,92	aucun	3 600 W	prix non relevé	fiche
Dell PowerEdge XE9640 (4x H100 SXM5)	4x NVIDIA H100 SXM5 80 Go (700 W), reliés par NVLink	320 Go	13,4 To/s	3,96	7,92	aucun	3 600 W	prix non relevé	fiche

Données ouvertes

Les données du calculateur sont publiées en JSON : chaque machine y figure avec sa mémoire, sa bande passante, son calcul dense, sa consommation et son prix retenu, et chaque modèle avec son architecture. Le fichier décrit chaque champ et son unité, et renvoie vers les fiches des constructeurs.

Télécharger le jeu de données (JSON) · version 3.1, 12 octobre 2026

Quel serveur pour quel modèle ?

Pour chaque modèle, la machine la moins chère du catalogue qui loge les poids et laisse au moins un quart de sa mémoire au cache, réserve d'exécution comprise. Le cache dépend du contexte et des utilisateurs : réglez-les plus bas. Les machines retirées ou sans prix relevé sont écartées.

Modèle	Poids FP8	Machine FP8	Poids NVFP4	Machine NVFP4
Kimi K3	2 782 Go	NVIDIA GB200 NVL72 (baie complète, 72 GPU) 4 225 000 € HT · poids 21 % · 51 tok/s	1 610 Go (point de contrôle publié)	NVIDIA DGX B300 (8x B300) 736 000 € HT · poids 71 % · 49 tok/s
DeepSeek V4 Pro 0813	1 575 Go	Serveur 8x AMD Instinct MI355X OAM (CDNA 4) 380 000 € HT · poids 70 % · 81 tok/s	941 Go (point de contrôle publié)	Dell PowerEdge XE9680L (8x B200 DLC) 494 000 € HT · poids 67 % · 79 tok/s
DeepSeek V4.1 Flash 1017	756 Go	Supermicro AS-8125GS-TNMR2 (8x MI300X) 277 000 € HT · poids 51 % · 126 tok/s	527 Go (point de contrôle publié)	Serveur 8x NVIDIA RTX PRO 6000 Blackwell Server Edition (768 Go) 192 000 € HT · poids 72 % · 85 tok/s
GLM 5.3	756 Go (point de contrôle publié)	Supermicro AS-8125GS-TNMR2 (8x MI300X) 277 000 € HT · poids 51 % · 63 tok/s	464 Go (point de contrôle publié)	Serveur 8x NVIDIA RTX PRO 6000 Blackwell Server Edition (768 Go) 192 000 € HT · poids 63 % · 41 tok/s
GLM 5.3 Flash	328 Go (point de contrôle publié)	NVIDIA DGX A100 640 Go (8x A100 80 Go) 150 000 € HT · poids 54 % · 101 tok/s	204 Go (point de contrôle publié)	Serveur 8x NVIDIA RTX PRO 5000 Blackwell (384 Go) 96 000 € HT · poids 57 % · 73 tok/s
Mistral Large 4	1 050 Go	Supermicro AS-8125GS-TNMR2 (8x MI300X) 277 000 € HT · poids 70 % · cache non publié : verdict limité aux poids	591 Go	Dell PowerEdge XE9680L (8x B200 DLC) 494 000 € HT · poids 42 % · cache non publié : verdict limité aux poids
MiniMax M3	429 Go	NVIDIA DGX A100 640 Go (8x A100 80 Go) 150 000 € HT · poids 70 % · 74 tok/s	250 Go (point de contrôle publié)	Serveur 8x NVIDIA RTX PRO 5000 Blackwell (384 Go) 96 000 € HT · poids 70 % · 54 tok/s
Qwen 3.5	398 Go	NVIDIA DGX A100 640 Go (8x A100 80 Go) 150 000 € HT · poids 65 % · 79 tok/s	251 Go (point de contrôle publié)	Serveur 8x NVIDIA RTX PRO 5000 Blackwell (384 Go) 96 000 € HT · poids 70 % · 58 tok/s
Qwen 3.8 Flash Next	179 Go	Dell PowerEdge R750xa (4x A100 PCIe) 59 000 € HT · poids 59 % · 79 tok/s	133 Go (point de contrôle publié)	Serveur 4x NVIDIA RTX PRO 5000 Blackwell (192 Go) 50 000 € HT · poids 74 % · 73 tok/s
DeepSeek-V3	673 Go	Supermicro AS-8125GS-TNMR2 (8x MI300X) 277 000 € HT · poids 45 % · 79 tok/s	424 Go (point de contrôle publié)	Serveur 8x NVIDIA RTX PRO 6000 Blackwell Server Edition (768 Go) 192 000 € HT · poids 57 % · 50 tok/s
DeepSeek Coder V2	237 Go	Serveur 8x NVIDIA RTX PRO 5000 Blackwell (384 Go) 96 000 € HT · poids 66 % · 57 tok/s	134 Go	Serveur 4x NVIDIA RTX PRO 5000 Blackwell (192 Go) 50 000 € HT · poids 75 % · 55 tok/s
Llama 3.1 405B	410 Go	NVIDIA DGX A100 640 Go (8x A100 80 Go) 150 000 € HT · poids 67 % · 22 tok/s	234 Go (point de contrôle publié)	Serveur 8x NVIDIA RTX PRO 5000 Blackwell (384 Go) 96 000 € HT · poids 65 % · 23 tok/s
Nemotron-4 340B	350 Go	NVIDIA DGX A100 640 Go (8x A100 80 Go) 150 000 € HT · poids 57 % · 26 tok/s	205 Go	Serveur 8x NVIDIA RTX PRO 5000 Blackwell (384 Go) 96 000 € HT · poids 57 % · 27 tok/s
Mistral Large 2	123 Go	Apple Mac Studio M5 Ultra (256 Go unifiée, 1 200 Go/s) 10 358 € HT · poids 60 % · 7,7 tok/s	70,1 Go	Lenovo ThinkStation PGX GB10 6 500 € HT · poids 61 % · 2,4 tok/s
Llama 3.3 70B	72,7 Go	Lenovo ThinkStation PGX GB10 6 500 € HT · poids 63 % · 2,4 tok/s	42,7 Go (point de contrôle publié)	Lenovo ThinkStation PGX GB10 6 500 € HT · poids 37 % · 4,1 tok/s
Qwen 2.5 72B	75,2 Go	Lenovo ThinkStation PGX GB10 6 500 € HT · poids 65 % · 2,3 tok/s	44,5 Go	Lenovo ThinkStation PGX GB10 6 500 € HT · poids 38 % · 3,9 tok/s
Qwen 2.5 Coder 32B	34,3 Go	Mini-PC IA AMD Ryzen AI Max+ 395 (Strix Halo 128 Go) 3 333 € HT · poids 37 % · 4,6 tok/s	20,7 Go	Lenovo ThinkStation PGX GB10 6 500 € HT · poids 18 % · 8,4 tok/s
Qwen 3.8 27B	30,9 Go (point de contrôle publié)	Mini-PC IA AMD Ryzen AI Max+ 395 (Strix Halo 128 Go) 3 333 € HT · poids 34 % · 5,7 tok/s	21,9 Go (point de contrôle publié)	Lenovo ThinkStation PGX GB10 6 500 € HT · poids 19 % · 8,9 tok/s
Devstral Small 24B	24,9 Go	Mini-PC IA AMD Ryzen AI Max+ 395 (Strix Halo 128 Go) 3 333 € HT · poids 27 % · 6,5 tok/s	15,2 Go	Station mobile RTX PRO 5000 Blackwell (24 Go) 5 208 € HT · poids 72 % · 37 tok/s
Llama 3.1 8B	9,1 Go	Mini-PC IA AMD Ryzen AI Max+ 395 (Strix Halo 128 Go) 3 333 € HT · poids 10 % · 18 tok/s	6,0 Go (point de contrôle publié)	Station mobile RTX PRO 5000 Blackwell (24 Go) 5 208 € HT · poids 29 % · 95 tok/s

Questions fréquentes

Combien de mémoire faut-il pour servir un LLM ?

Les poids d'un modèle occupent ses paramètres multipliés par les octets du format, soit deux en BF16, un en FP8 et environ 0,56 en NVFP4, puis le cache clé-valeur s'y ajoute et croît avec le contexte comme avec le nombre d'utilisateurs simultanés.

Comment calculer la mémoire GPU d'un LLM ?

Additionnez les poids du modèle, le cache clé-valeur et l'état des couches récurrentes. Le cache vaut, par jeton, deux fois couches, têtes, dimension de tête et octets, multiplié par le contexte et les utilisateurs. Comparez ensuite ce total, GPU par GPU, à la mémoire utilisable de la machine.

Le nombre de paramètres suffit-il pour calculer les poids ?

Presque, car le calculateur prend d'abord la taille du dépôt publié, échelles et couches gardées en BF16 comprises, soit 892,7 Go pour DeepSeek V4 Pro 0813. À défaut, il multiplie les paramètres par les octets du format, puis chaque GPU réserve 8 % de sa mémoire et 2,5 Gio à l'exécution, comme vLLM.

Pourquoi les fiches de dimensionnement ne comptent-elles pas le cache clé-valeur ?

Parce qu'il dépend de deux choix d'exploitation que la fiche ignore : le contexte servi et le nombre de requêtes simultanées. Les fiches jugent les poids et réservent un quart de la mémoire. Ce calculateur compte le cache avec vos valeurs et donne le contexte maximal par utilisateur.

Où trouver les valeurs du cache pour un modèle absent de la liste ?

Dans le fichier config.json du dépôt, qui donne le nombre de couches, de têtes clé-valeur et la dimension de tête pour une attention par têtes, ou le rang latent et la dimension RoPE pour une attention latente, alors que les couches récurrentes gardent un état fixe par requête.

Quelle mémoire GPU faut-il pour le fine-tuning QLoRA ?

Les poids de base restent figés en NF4, soit environ 0,52 octet par paramètre, hors plongements et tête gardés en BF16. Avec les réglages par défaut de TRL, adaptateurs, gradients et AdamW ajoutent 8 octets par paramètre entraîné. Les activations, elles, croissent avec la séquence.

Qu'est-ce qu'un sizer LLM ?

Un sizer LLM est un outil de dimensionnement : il calcule la mémoire, le débit et le nombre d'utilisateurs qu'une machine peut servir pour un modèle donné. Celui-ci compare vingt modèles ouverts sur plus de soixante serveurs, du mini-PC à la baie NVIDIA GB300 NVL72 ou AMD Helios, et en déduit le coût par million de jetons.

Quel serveur faut-il pour Kimi K3 ?

En FP8, les poids de Kimi K3 occupent 2 782 Go. La machine la moins onéreuse du catalogue qui en réserve un quart au cache clé-valeur est la configuration NVIDIA GB200 NVL72 (baie complète, 72 GPU), vendue 4 225 000 € hors taxes. Son débit calculé atteint 51 jetons par seconde pour chaque utilisateur simultané.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 1 610 Go, point de contrôle nvidia/Kimi-K3-NVFP4. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration NVIDIA DGX B300 (8x B300), vendue 736 000 € hors taxes, pour un débit calculé de 49 jetons par seconde et par utilisateur.

Quel serveur faut-il pour DeepSeek V4 Pro 0813 ?

En FP8, les poids de DeepSeek V4 Pro 0813 occupent 1 575 Go. La machine la moins onéreuse du catalogue qui en réserve un quart au cache clé-valeur est la configuration Serveur 8x AMD Instinct MI355X OAM (CDNA 4), vendue 380 000 € hors taxes. Son débit calculé atteint 81 jetons par seconde pour chaque utilisateur simultané.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 941 Go, point de contrôle nvidia/DeepSeek-V4-Pro-0813-NVFP4. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration Dell PowerEdge XE9680L (8x B200 DLC), vendue 494 000 € hors taxes, pour un débit calculé de 79 jetons par seconde et par utilisateur.

Quel serveur faut-il pour DeepSeek V4.1 Flash 1017 ?

En FP8, les poids de DeepSeek V4.1 Flash 1017 occupent 756 Go, et la machine la moins onéreuse du catalogue qui en réserve un quart au cache clé-valeur est la configuration Supermicro AS-8125GS-TNMR2 (8x MI300X). Vendue 277 000 € hors taxes, elle atteint un débit calculé de 126 jetons par seconde et par utilisateur simultané.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 527 Go, point de contrôle nvidia/DeepSeek-V4.1-Flash-NVFP4. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration Serveur 8x NVIDIA RTX PRO 6000 Blackwell Server Edition (768 Go), vendue 192 000 € hors taxes, pour un débit calculé de 85 jetons par seconde et par utilisateur.

Quel serveur faut-il pour GLM 5.3 ?

En FP8, les poids de GLM 5.3 occupent 756 Go, et la machine la moins onéreuse du catalogue qui en réserve un quart au cache clé-valeur est la configuration Supermicro AS-8125GS-TNMR2 (8x MI300X). Vendue 277 000 € hors taxes, elle atteint un débit calculé de 63 jetons par seconde et par utilisateur simultané.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 464 Go, point de contrôle nvidia/GLM-5.3-NVFP4. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration Serveur 8x NVIDIA RTX PRO 6000 Blackwell Server Edition (768 Go), vendue 192 000 € hors taxes, pour un débit calculé de 41 jetons par seconde et par utilisateur.

Quel serveur faut-il pour GLM 5.3 Flash ?

En FP8, les poids de GLM 5.3 Flash occupent 328 Go, et la machine la moins onéreuse du catalogue qui en réserve un quart au cache clé-valeur est la configuration NVIDIA DGX A100 640 Go (8x A100 80 Go). Vendue 150 000 € hors taxes, elle atteint un débit calculé de 101 jetons par seconde et par utilisateur simultané.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 204 Go, point de contrôle nvidia/GLM-5.3-Flash-NVFP4. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration Serveur 8x NVIDIA RTX PRO 5000 Blackwell (384 Go), vendue 96 000 € hors taxes, pour un débit calculé de 73 jetons par seconde et par utilisateur.

Quel serveur faut-il pour Mistral Large 4 ?

En FP8, les poids de Mistral Large 4 occupent 1 050 Go, mais son cache clé-valeur n'est pas publié. Le calculateur constate seulement que la configuration Supermicro AS-8125GS-TNMR2 (8x MI300X), vendue 277 000 € hors taxes, loge ces poids avec un quart de mémoire libre, sans juger le contexte ni le débit.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, le calcul donne 591 Go de poids. La configuration Dell PowerEdge XE9680L (8x B200 DLC), vendue 494 000 € hors taxes, les loge alors avec un quart de mémoire libre, toujours sans verdict possible sur le contexte ni sur le débit.

Quel serveur faut-il pour MiniMax M3 ?

En FP8, les poids de MiniMax M3 occupent 429 Go. La machine la moins onéreuse du catalogue qui en réserve un quart au cache clé-valeur est la configuration NVIDIA DGX A100 640 Go (8x A100 80 Go), vendue 150 000 € hors taxes. Son débit calculé atteint 74 jetons par seconde pour chaque utilisateur simultané.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 250 Go, point de contrôle nvidia/MiniMax-M3-NVFP4. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration Serveur 8x NVIDIA RTX PRO 5000 Blackwell (384 Go), vendue 96 000 € hors taxes, pour un débit calculé de 54 jetons par seconde et par utilisateur.

Quel serveur faut-il pour Qwen 3.5 ?

En FP8, les poids de Qwen 3.5 occupent 398 Go, et la machine la moins onéreuse du catalogue qui en réserve un quart au cache clé-valeur est la configuration NVIDIA DGX A100 640 Go (8x A100 80 Go). Vendue 150 000 € hors taxes, elle atteint un débit calculé de 79 jetons par seconde et par utilisateur simultané.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 251 Go, point de contrôle nvidia/Qwen3.5-397B-A17B-NVFP4. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration Serveur 8x NVIDIA RTX PRO 5000 Blackwell (384 Go), vendue 96 000 € hors taxes, pour un débit calculé de 58 jetons par seconde et par utilisateur.

Quel serveur faut-il pour Qwen 3.8 Flash Next ?

En FP8, les poids de Qwen 3.8 Flash Next occupent 179 Go. La machine la moins onéreuse du catalogue qui en réserve un quart au cache clé-valeur est la configuration Dell PowerEdge R750xa (4x A100 PCIe), vendue 59 000 € hors taxes. Son débit calculé atteint 79 jetons par seconde pour chaque utilisateur simultané.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 133 Go, point de contrôle nvidia/Qwen3.8-Flash-Next-NVFP4. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration Serveur 4x NVIDIA RTX PRO 5000 Blackwell (192 Go), vendue 50 000 € hors taxes, pour un débit calculé de 73 jetons par seconde et par utilisateur.

Quel serveur faut-il pour DeepSeek-V3 ?

En FP8, les poids de DeepSeek-V3 occupent 673 Go. Dans le catalogue, la machine la moins onéreuse qui en réserve un quart au cache clé-valeur est la configuration Supermicro AS-8125GS-TNMR2 (8x MI300X). Elle est vendue 277 000 € hors taxes, et son débit calculé atteint 79 jetons par seconde et par utilisateur.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 424 Go, point de contrôle nvidia/DeepSeek-V3-0324-NVFP4. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration Serveur 8x NVIDIA RTX PRO 6000 Blackwell Server Edition (768 Go), vendue 192 000 € hors taxes, pour un débit calculé de 50 jetons par seconde et par utilisateur.

Quel serveur faut-il pour DeepSeek Coder V2 ?

En FP8, les poids de DeepSeek Coder V2 occupent 237 Go. La machine la moins onéreuse du catalogue qui en réserve un quart au cache clé-valeur est la configuration Serveur 8x NVIDIA RTX PRO 5000 Blackwell (384 Go), vendue 96 000 € hors taxes. Son débit calculé atteint 57 jetons par seconde pour chaque utilisateur simultané.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 134 Go. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration Serveur 4x NVIDIA RTX PRO 5000 Blackwell (192 Go), vendue 50 000 € hors taxes, pour un débit calculé de 55 jetons par seconde et par utilisateur.

Quel serveur faut-il pour Llama 3.1 405B ?

En FP8, les poids de Llama 3.1 405B occupent 410 Go, et la machine la moins onéreuse du catalogue qui en réserve un quart au cache clé-valeur est la configuration NVIDIA DGX A100 640 Go (8x A100 80 Go). Vendue 150 000 € hors taxes, elle atteint un débit calculé de 22 jetons par seconde et par utilisateur simultané.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 234 Go, point de contrôle nvidia/Llama-3.1-405B-Instruct-NVFP4. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration Serveur 8x NVIDIA RTX PRO 5000 Blackwell (384 Go), vendue 96 000 € hors taxes, pour un débit calculé de 23 jetons par seconde et par utilisateur.

Quel serveur faut-il pour Nemotron-4 340B ?

En FP8, les poids de Nemotron-4 340B occupent 350 Go. La machine la moins onéreuse du catalogue qui en réserve un quart au cache clé-valeur est la configuration NVIDIA DGX A100 640 Go (8x A100 80 Go), vendue 150 000 € hors taxes. Son débit calculé atteint 26 jetons par seconde pour chaque utilisateur simultané.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 205 Go. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration Serveur 8x NVIDIA RTX PRO 5000 Blackwell (384 Go), vendue 96 000 € hors taxes, pour un débit calculé de 27 jetons par seconde et par utilisateur.

Quel serveur faut-il pour Mistral Large 2 ?

En FP8, les poids de Mistral Large 2 occupent 123 Go. La machine la moins onéreuse du catalogue qui en réserve un quart au cache clé-valeur est la configuration Apple Mac Studio M5 Ultra (256 Go unifiée, 1 200 Go/s), vendue 10 358 € hors taxes. Son débit calculé atteint 7,7 jetons par seconde pour chaque utilisateur simultané.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 70,1 Go. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration Lenovo ThinkStation PGX GB10, vendue 6 500 € hors taxes, pour un débit calculé de 2,4 jetons par seconde et par utilisateur.

Quel serveur faut-il pour Llama 3.3 70B ?

En FP8, les poids de Llama 3.3 70B occupent 72,7 Go, et la machine la moins onéreuse du catalogue qui en réserve un quart au cache clé-valeur est la configuration Lenovo ThinkStation PGX GB10. Vendue 6 500 € hors taxes, elle atteint un débit calculé de 2,4 jetons par seconde et par utilisateur simultané.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 42,7 Go, point de contrôle nvidia/Llama-3.3-70B-Instruct-NVFP4. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration Lenovo ThinkStation PGX GB10, vendue 6 500 € hors taxes, pour un débit calculé de 4,1 jetons par seconde et par utilisateur.

Quel serveur faut-il pour Qwen 2.5 72B ?

En FP8, les poids de Qwen 2.5 72B occupent 75,2 Go, et la machine la moins onéreuse du catalogue qui en réserve un quart au cache clé-valeur est la configuration Lenovo ThinkStation PGX GB10. Vendue 6 500 € hors taxes, elle atteint un débit calculé de 2,3 jetons par seconde et par utilisateur simultané.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 44,5 Go. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration Lenovo ThinkStation PGX GB10, vendue 6 500 € hors taxes, pour un débit calculé de 3,9 jetons par seconde et par utilisateur.

Quel serveur faut-il pour Qwen 2.5 Coder 32B ?

En FP8, les poids de Qwen 2.5 Coder 32B occupent 34,3 Go. La configuration la moins onéreuse qui en réserve un quart au cache clé-valeur est Mini-PC IA AMD Ryzen AI Max+ 395 (Strix Halo 128 Go), vendue 3 333 € hors taxes, pour un débit calculé de 4,6 jetons par seconde.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 20,7 Go. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration Lenovo ThinkStation PGX GB10, vendue 6 500 € hors taxes, pour un débit calculé de 8,4 jetons par seconde et par utilisateur.

Quel serveur faut-il pour Qwen 3.8 27B ?

En FP8, les poids de Qwen 3.8 27B occupent 30,9 Go. La machine la moins onéreuse du catalogue qui en réserve un quart au cache clé-valeur est la configuration Mini-PC IA AMD Ryzen AI Max+ 395 (Strix Halo 128 Go), vendue 3 333 € hors taxes. Son débit calculé atteint 5,7 jetons par seconde pour chaque utilisateur simultané.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 21,9 Go, point de contrôle nvidia/Qwen3.8-27B-NVFP4. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration Lenovo ThinkStation PGX GB10, vendue 6 500 € hors taxes, pour un débit calculé de 8,9 jetons par seconde et par utilisateur.

Quel serveur faut-il pour Devstral Small 24B ?

En FP8, les poids de Devstral Small 24B occupent 24,9 Go. La machine la moins chère qui en garde un quart pour le cache est la configuration Mini-PC IA AMD Ryzen AI Max+ 395 (Strix Halo 128 Go). Vendue 3 333 € hors taxes, elle atteint 6,5 jetons par seconde et par utilisateur, selon le calcul.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 15,2 Go. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration Station mobile RTX PRO 5000 Blackwell (24 Go), vendue 5 208 € hors taxes, pour un débit calculé de 37 jetons par seconde et par utilisateur.

Quel serveur faut-il pour Llama 3.1 8B ?

En FP8, les poids de Llama 3.1 8B occupent 9,1 Go. La machine la moins onéreuse du catalogue qui en réserve un quart au cache clé-valeur est la configuration Mini-PC IA AMD Ryzen AI Max+ 395 (Strix Halo 128 Go), vendue 3 333 € hors taxes. Son débit calculé atteint 18 jetons par seconde pour chaque utilisateur simultané.

En NVFP4, sur le matériel Blackwell qui l'exécute nativement, ils occupent 6,0 Go, point de contrôle nvidia/Llama-3.1-8B-Instruct-NVFP4. La machine la moins onéreuse qui en réserve un quart au cache est alors la configuration Station mobile RTX PRO 5000 Blackwell (24 Go), vendue 5 208 € hors taxes, pour un débit calculé de 95 jetons par seconde et par utilisateur.