Serveur RTX PRO 6000
Serveur GPU refroidi par air, Blackwell Server Edition
| Prix indicatif | sur devis : aucun constructeur ne publie de tarif pour un serveur à 8 cartes ; seule la carte est affichée, 16 000 $ HT sur la place de marché NVIDIA au 1er septembre 2026 selon thundercompute.com (guide des prix) |
|---|---|
| Mémoire | 96 Go GDDR7 par GPU (2 à 8 GPU, jusqu’à 768 Go) |
| Calcul | 4 PFLOPS FP4 avec sparsité par GPU (2 PFLOPS FP8) |
| Bande passante | 1 597 Go/s par carte, PCIe Gen5 |
| Isolation | MIG jusqu’à quatre instances de 24 Go |
| Consommation | jusqu’à 600 W par GPU (configurable), air |
| Densité | 2 à 8 GPU par serveur |
Quels modèles le serveur RTX PRO 6000 exécute-t-il ?
Plusieurs modèles de 70 à 200 milliards de paramètres en parallèle, RAG et réglage fin multi-GPU. Runtimes conseillés : vLLM et ninfer (optimisé pour Blackwell sm_120).
Pourquoi choisir un serveur RTX PRO 6000 ?
Serveur RTX PRO 6000 Blackwell : 96 Go de GDDR7 par carte, jusqu’à 8 cartes refroidies par air dans un châssis standard, pour servir des modèles de 70 à 200 milliards de paramètres.
Constructeurs
Serveurs certifiés chez Dell, HPE, Lenovo, Supermicro, ASUS et Gigabyte.
Stockage GPUDirect
Sur les plateformes équipées de cartes ConnectX, la technologie GPUDirect Storage établit un chemin direct entre le stockage NVMe ou NVMe over Fabric et la mémoire du GPU, sans passer par le tampon du processeur. Les baies compatibles, telles NetApp, VAST, DDN ou WEKA, alimentent l’entraînement et le RAG massif à pleine vitesse.
Support
Pile ouverte, maintenue par ses communautés. Option NVIDIA AI Enterprise (NIM, NeMo, Triton) avec engagement de niveau de service, licence par GPU.
Questions fréquentes
À quoi sert un serveur RTX PRO 6000 ?
À servir en production plusieurs modèles de 70 à 200 milliards de paramètres en parallèle, faire du RAG et du réglage fin multi-GPU.
Le RTX PRO 6000 est-il refroidi par air ou par liquide ?
Par air, sur des serveurs standards. C’est ce qui rend la plateforme déployable sans salle machine spécialisée.
Quel runtime pour le RTX PRO 6000 ?
vLLM, qui exploite le parallélisme multi-GPU et le format NVFP4 des cartes Blackwell.
Chez quels constructeurs le serveur RTX PRO 6000 est-il certifié ?
Chez Dell, HPE, Lenovo, Supermicro, ASUS et Gigabyte.
Combien coûte un rtx pro 6000 configuré pour un LLM ?
Le tarif varie selon la configuration choisie et le fournisseur. Aucun prix public n’est affiché pour cette configuration ; un échange de cadrage aide à comparer les devis des fournisseurs.
Quel modèle LLM fait tenir dans un rtx pro 6000 ?
Selon le format de quantification et le contexte d'entrée. Le tableau de la page indique la taille de modèle maximale recommandée.
Quels runtimes sont compatibles avec le rtx pro 6000 ?
vLLM, llama.cpp, Triton Inference Server selon le framework retenu. Les couples modèle, format et GPU mesurés par QDNA sont publiés dans la section mesures.
Quels modèles tiennent sur Serveur RTX PRO 6000 ?
La machine offre 768 Go de mémoire GDDR7, 8 GPU. 5 des 7 modèles ouverts du catalogue y logent, dans le format indiqué.
| Modèle | Milliards de paramètres | Format le plus précis qui loge | Page de dimensionnement |
|---|---|---|---|
| GLM 5.3 | 744 | NVFP4 | GLM 5.3 sur Serveur RTX PRO 6000 |
| Kimi K2.7 Code | 1 000 | NVFP4 | Kimi K2.7 Code sur Serveur RTX PRO 6000 |
| Nemotron 3 Ultra | 550 | FP8 | Nemotron 3 Ultra sur Serveur RTX PRO 6000 |
| MiniMax M3 | 428 | FP8 | MiniMax M3 sur Serveur RTX PRO 6000 |
| Qwen 3.8 27B | 27 | FP16 | Qwen 3.8 27B sur Serveur RTX PRO 6000 |
Voir la matrice complète.