GB300 NVL72
Échelle rack, 72 GPU refroidis par liquide
| GPU | 72 Blackwell Ultra et 36 Grace (2592 cœurs) |
|---|---|
| Mémoire | environ 20,7 To HBM3e (40 To de mémoire rapide) |
| Calcul | environ 1,1 ExaFLOPS FP4 en dense |
| NVLink | 130 To/s sur un domaine de 72 GPU |
| Consommation | environ 120 kW, refroidissement liquide |
| Format | rack 42U complet |
Ce que la machine exécute
Un seul supercalculateur de 72 puces sert les modèles frontière et un cloud IA privé. Runtime conseillé : vLLM désagrégé avec LiteLLM.
Positionnement
La grande entreprise héberge son propre modèle frontière dans une baie, en cloud IA souverain.
Constructeurs
Assemblage rack chez Dell, HPE, Lenovo, Supermicro, ASUS et Gigabyte, en refroidissement liquide.
Stockage GPUDirect
Sur les plateformes équipées de cartes ConnectX, la technologie GPUDirect Storage établit un chemin direct entre le stockage NVMe ou NVMe over Fabric et la mémoire du GPU, sans passer par le tampon du processeur. Le débit soutenu atteint environ 50 gigaoctets par seconde par lien. Les baies compatibles, telles NetApp, VAST, DDN ou WEKA, alimentent l’entraînement et le RAG massif à pleine vitesse.
Support
Pile ouverte supportée par QDNA et les communautés. Option NVIDIA AI Enterprise (NIM, NeMo, Triton) avec engagement de niveau de service, par carte.
Configurer ce matériel
Un échange sans engagement pour dimensionner votre plateforme.
Réserver un échange