B300 SXM

HGX B300, Blackwell Ultra 8 GPU

Fiche matériel · QDNA plateforme IA souveraine

Mémoire	288 Go HBM3e par GPU (2304 Go)
Bande passante	8 To/s par GPU
Calcul	environ 15 PFLOPS FP4 par GPU (120 au total)
NVLink	NVLink 5, 1,8 To/s
Consommation	environ 1,4 kW par GPU, refroidissement liquide
Cible	modèles frontière, contexte long

Ce que la machine exécute

Inférence et entraînement de grands modèles à l’échelle. Les plus grands modèles ouverts servis avec de la marge, y compris mélange d’experts et contexte d’un million de jetons. Runtime conseillé : vLLM avec déchargement du cache clé-valeur.

Positionnement

Le haut de gamme serveur ajoute cinquante pour cent de mémoire par GPU face au B200, pour le raisonnement et le contexte long. Une configuration huit GPU se situe entre 430 000 et 550 000 euros à titre d’estimation.

Constructeurs

Exemples HGX B300 : Dell PowerEdge XE9712, Supermicro SYS-821GB-TNRX, HPE Cray XD670, Lenovo ThinkSystem SR680b, Gigabyte G383-P00. ASUS complète l’offre sur la série ESC.

Stockage GPUDirect

Sur les plateformes équipées de cartes ConnectX, la technologie GPUDirect Storage établit un chemin direct entre le stockage NVMe ou NVMe over Fabric et la mémoire du GPU, sans passer par le tampon du processeur. Le débit soutenu atteint environ 50 gigaoctets par seconde par lien. Les baies compatibles, telles NetApp, VAST, DDN ou WEKA, alimentent l’entraînement et le RAG massif à pleine vitesse.

Support

Pile ouverte supportée par QDNA et les communautés. Option NVIDIA AI Enterprise (NIM, NeMo, Triton) avec engagement de niveau de service, par carte.