Serveur H200 SXM
HGX H200, 8 GPU SXM
| Prix indicatif | environ 451 k€ HT : serveur HGX H200 à 8 GPU de 141 Go et deux Xeon Gold 6538Y+ affiché 387 785 £ HT chez CTO Servers le 2 septembre 2026 (un seul vendeur ; le marchand demande un devis pour valider ce prix), converti au taux BCE du 25 septembre 2026, 0,860 £ pour 1 € (guide des prix) |
|---|---|
| Mémoire | 141 Go HBM3e par GPU, 8 GPU (1 128 Go) |
| Bande passante | 4,8 To/s par GPU |
| NVLink | 900 Go/s par GPU, maillage complet NVSwitch |
| Calcul | 3 958 TFLOPS FP8 et 1 979 TFLOPS FP16 par GPU avec sparsité, parallélisme tensoriel sur 8 GPU |
| Consommation | jusqu’à 700 W par GPU |
| Format | carte HGX 8 GPU, serveur 8U |
Que permet un serveur H200 SXM ?
Pool de 1128 Go pour l’inférence et l’entraînement à l’échelle : réglage fin, LoRA et pré-entraînement continu sur huit GPU reliés en maillage NVLink. Runtime conseillé : vLLM en parallélisme tensoriel.
Quand choisir une baie H200 SXM ?
La carte HGX H200 fait travailler huit GPU comme un seul accélérateur via NVSwitch, pour l’entraînement et l’inférence des grands modèles. La licence NVIDIA AI Enterprise se souscrit par GPU.
Constructeurs
Systèmes HGX H200 chez Dell, HPE, Lenovo, Supermicro, ASUS et Gigabyte.
Stockage GPUDirect
Sur les plateformes équipées de cartes ConnectX, la technologie GPUDirect Storage établit un chemin direct entre le stockage NVMe ou NVMe over Fabric et la mémoire du GPU, sans passer par le tampon du processeur. Les baies compatibles, telles NetApp, VAST, DDN ou WEKA, alimentent l’entraînement et le RAG massif à pleine vitesse.
Support
Pile ouverte, maintenue par ses communautés. Option NVIDIA AI Enterprise (NIM, NeMo, Triton) avec engagement de niveau de service, par GPU.
Questions fréquentes
Quelle mémoire totale sur un serveur H200 SXM ?
1128 gigaoctets, mis en commun sur huit GPU reliés en maillage NVLink via NVSwitch, adressables comme un seul pool.
À quoi sert une baie H200 SXM ?
À l’inférence et à l’entraînement à l’échelle des grands modèles : réglage fin, LoRA et pré-entraînement continu sur huit GPU.
Quel runtime pour le H200 SXM ?
vLLM en parallélisme tensoriel, qui répartit le modèle sur les huit GPU.
Comment se licencie NVIDIA AI Enterprise sur H200 ?
Par GPU, en option, avec engagement de niveau de service.
Combien coûte un h200 sxm configuré pour un LLM ?
Le tarif varie selon la configuration choisie et le fournisseur. La fiche indique un prix public relevé et daté ; un échange de cadrage aide à comparer les devis des fournisseurs.
Quel modèle LLM fait tenir dans un h200 sxm ?
Selon le format de quantification et le contexte d'entrée. Le tableau de la page indique la taille de modèle maximale recommandée.
Quels runtimes sont compatibles avec le h200 sxm ?
vLLM, llama.cpp, Triton Inference Server selon le framework retenu. Les couples modèle, format et GPU mesurés par QDNA sont publiés dans la section mesures.
Quels modèles tiennent sur Serveur H200 SXM ?
La machine offre 1 128 Go de mémoire HBM3e, 8 GPU. 6 des 7 modèles ouverts du catalogue y logent, dans le format indiqué.
| Modèle | Milliards de paramètres | Format le plus précis qui loge | Page de dimensionnement |
|---|---|---|---|
| GLM 5.3 | 744 | FP8 | GLM 5.3 sur Serveur H200 SXM |
| Kimi K2.7 Code | 1 000 | NVFP4 | Kimi K2.7 Code sur Serveur H200 SXM |
| DeepSeek V4 | 1 600 | NVFP4 | DeepSeek V4 sur Serveur H200 SXM |
| Nemotron 3 Ultra | 550 | FP8 | Nemotron 3 Ultra sur Serveur H200 SXM |
| MiniMax M3 | 428 | FP16 | MiniMax M3 sur Serveur H200 SXM |
| Qwen 3.8 27B | 27 | FP16 | Qwen 3.8 27B sur Serveur H200 SXM |
Voir la matrice complète.