QDNAConseil et architecture de plateformes d'inférence et d'entraînement de LLM, en local ou hybride

dwarfstar

Runtime d’inférence

dwarfstar

dwarfstar constitue la pile souveraine développée par QDNA. Elle associe llama.cpp aux modèles GLM 5.2 et DeepSeek V4 Pro sur un serveur RTX PRO 6000. Le socle sert le raisonnement et le code en local, sans dépendance externe.

Points clés : Pile maison QDNA · Local intégral · llama.cpp · GLM 5.2 et DeepSeek V4 Pro · RTX PRO 6000.

Rôle

dwarfstar est la pile souveraine développée par QDNA. Elle sert le raisonnement et le code en local, sans dépendance externe.

Composition

Elle associe llama.cpp aux modèles GLM 5.2 et DeepSeek V4 Pro sur un serveur RTX PRO 6000.

Cas d’usage

dwarfstar illustre une plateforme entièrement locale, du modèle au runtime, pour les organisations qui exigent la souveraineté intégrale.

Intégration

Elle s’expose à Hermes et à OpenCode via LiteLLM, comme n’importe quel fournisseur du catalogue.

En parler avec un spécialiste

Un échange sans engagement.

Réserver un échange