QDNA Écrire un message

B200 SXM

HGX B200, Blackwell 8 GPU

Réponse courte. Le B200 SXM est une carte HGX Blackwell à huit GPU. Il vise l’inférence de niveau frontière et l’entraînement des très grands modèles, avec un débit FP4 élevé servi par vLLM au format NVFP4. Selon NVIDIA, le passage à Blackwell atteint jusqu’à quinze fois la performance d’inférence de la génération Hopper sur les modèles les plus lourds.
B200 SXM
Prix indicatifsur devis, selon la configuration (guide des prix)
Mémoire180 Go HBM3e par GPU (1 440 Go ; NVIDIA arrondit à 1,4 To)
Bande passante7,7 To/s par GPU
Calcul9 PFLOPS FP4 dense par GPU (72 au total, 144 avec sparsité)
NVLink1,8 To/s NVLink 5 (14,4 To/s au total)
Consommation1 000 W par GPU (TGP)
Transistors208 milliards par GPU

Que permet un serveur B200 SXM ?

Inférence de niveau frontière et entraînement, débit FP4 élevé. Runtime conseillé : vLLM au format NVFP4.

B200 ou H200 : lequel choisir ?

Selon NVIDIA, le passage à Blackwell atteint jusqu’à quinze fois la génération Hopper en inférence sur les très grands modèles.

Constructeurs

Systèmes HGX B200 chez Dell, HPE, Lenovo, Supermicro, ASUS et Gigabyte.

Stockage GPUDirect

Sur les plateformes équipées de cartes ConnectX, la technologie GPUDirect Storage établit un chemin direct entre le stockage NVMe ou NVMe over Fabric et la mémoire du GPU, sans passer par le tampon du processeur. Les baies compatibles, telles NetApp, VAST, DDN ou WEKA, alimentent l’entraînement et le RAG massif à pleine vitesse.

Support

Pile ouverte, maintenue par ses communautés. Option NVIDIA AI Enterprise (NIM, NeMo, Triton) avec engagement de niveau de service, licence par GPU.

Questions fréquentes

Quel gain le B200 apporte-t-il face au H200 ?

Selon NVIDIA, le passage à l’architecture Blackwell atteint jusqu’à quinze fois la performance d’inférence et trois fois la performance d’entraînement de la génération précédente (comparaison DGX B200 publiée par NVIDIA), avec un débit FP4 nettement supérieur.

À quoi sert un serveur B200 SXM ?

À l’inférence de niveau frontière et à l’entraînement des modèles les plus lourds, là où le débit FP4 fait la différence.

Quel format de modèle sur B200 ?

NVFP4, servi par vLLM, qui exploite le calcul FP4 natif des cartes Blackwell.

B200 ou H200 pour mon projet ?

Le H200 suffit pour la plupart des charges d’inférence et d’entraînement ; le B200 vise les très grands modèles et le débit FP4 maximal.

Combien coûte un b200 sxm configuré pour un LLM ?

Le tarif varie selon la configuration choisie et le fournisseur. Aucun prix public n’est affiché pour cette configuration ; un échange de cadrage aide à comparer les devis des fournisseurs.

Quel modèle LLM fait tenir dans un b200 sxm ?

Selon le format de quantification et le contexte d'entrée. Le tableau de la page indique la taille de modèle maximale recommandée.

Quels runtimes sont compatibles avec le b200 sxm ?

vLLM, llama.cpp, Triton Inference Server selon le framework retenu. Les couples modèle, format et GPU mesurés par QDNA sont publiés dans la section mesures.

Quels modèles tiennent sur B200 SXM ?

La machine offre 1 440 Go de mémoire HBM3e, 8 GPU. 6 des 7 modèles ouverts du catalogue y logent, dans le format indiqué.

Voir la matrice complète.