Serveur H200 SXM

HGX H200, 8 GPU SXM

Fiche matériel · QDNA plateforme IA souveraine

Mémoire	141 Go HBM3e par GPU, 8 GPU (1128 Go)
Bande passante	4,8 To/s par GPU
NVLink	900 Go/s par GPU, maillage complet NVSwitch
Calcul	FP8 et FP16, parallélisme tensoriel sur 8 GPU
Consommation	jusqu’à 700 W par GPU
Format	carte HGX 8 GPU, serveur 8U

Ce que la machine exécute

Pool de 1128 Go pour l’inférence et l’entraînement à l’échelle : réglage fin, LoRA et pré-entraînement continu sur huit GPU reliés en maillage NVLink. Runtime conseillé : vLLM en parallélisme tensoriel.

Positionnement

La carte HGX H200 fait travailler huit GPU comme un seul accélérateur via NVSwitch, pour l’entraînement et l’inférence des grands modèles. La licence NVIDIA AI Enterprise se souscrit par GPU.

Constructeurs

Systèmes HGX H200 chez Dell, HPE, Lenovo, Supermicro, ASUS et Gigabyte.

Stockage GPUDirect

Sur les plateformes équipées de cartes ConnectX, la technologie GPUDirect Storage établit un chemin direct entre le stockage NVMe ou NVMe over Fabric et la mémoire du GPU, sans passer par le tampon du processeur. Le débit soutenu atteint environ 50 gigaoctets par seconde par lien. Les baies compatibles, telles NetApp, VAST, DDN ou WEKA, alimentent l’entraînement et le RAG massif à pleine vitesse.

Support

Pile ouverte supportée par QDNA et les communautés. Option NVIDIA AI Enterprise (NIM, NeMo, Triton) avec engagement de niveau de service, par GPU.