QDNA Écrire un message
Le blog QDNA

Inférence et entraînement de LLM en local ou hybride, expliqués

Des analyses courtes et vérifiées sur les plateformes IA sur site, les modèles ouverts, les coûts LLM, l'agentique et la conformité française et européenne.

Modèles & Matériel

Mistral Large 4 « le Chonk » : ce qui est vérifié, et quel matériel pour le servir

1,05 T de paramètres dont 49 Md actifs, poids attendus fin octobre. Faits recoupés, contradictions, mesures indépendantes, mémoire FP8 et NVFP4, machines.

Publié le 7 octobre 2026 · 12 min de lecture
Agentique & Gouvernance

Tutoriel : Piloter un jumeau d'organisation numérique (Digital Organisational Twins)

Guide visuel pas à pas : administrer l'organisation et ses rôles d'agents en mode DOTS souverain, sur site, avec tour de contrôle et quarantaine 409.

Publié le 30 septembre 2026 · 10 min de lecture
Architecture & Runtime

Moteur d'inférence LLM : comparatif vLLM, SGLang, TensorRT-LLM, llama.cpp et Dynamo en 2026

Comparatif 2026 des moteurs d'inférence sur Blackwell : vLLM, SGLang, TensorRT-LLM, Dynamo, llama.cpp. Mesures InferenceX et LMSYS, MTP, DSpark, contexte long.

Publié le 26 septembre 2026 · 22 min de lecture
Architecture & Matériel

Inférence souveraine : 8 × RTX PRO 6000 Blackwell face à 8 × H200 SXM

Architecture comparée d'une grappe d'inférence locale : 8 NVIDIA RTX PRO 6000 Blackwell face à 8 H200 SXM, débits vLLM, bande passante et TCO sur trois ans.

Publié le 16 septembre 2026 · Mis à jour le 26 septembre 2026 · 11 min de lecture
Architecture & Stratégie

Full Stack AI Company : bâtir sa plateforme avec l'IA on-premise, Hugging Face et NVIDIA

Architecture pour bâtir une entreprise IA souveraine : matériel accéléré, NVIDIA AI Enterprise, modèles Hugging Face, essaims agentiques MCP et TCO prédictif.

Publié le 15 septembre 2026 · Mis à jour le 26 septembre 2026 · 17 min de lecture
Entraînement & RFT

Entraînement d'un modèle local et RFT : le pipeline complet de QLoRA à la production

Méthode complète pour spécialiser un modèle de 27 milliards de paramètres sur site : curation par renforcement, adaptation QLoRA, masquage de perte et serving vLLM.

Publié le 12 septembre 2026 · Mis à jour le 26 septembre 2026 · 14 min de lecture
Conformité

IA conforme au RGPD : la liste de contrôle pour une IA générative en entreprise

IA conforme au RGPD : ce que le texte impose, ce que la CNIL et le CEPD recommandent, ce que le règlement européen sur l'IA ajoute et à quelle date. Liste de contrôle sourcée, chatbot, RAG et agents compris.

Publié le 6 septembre 2026 · Mis à jour le 26 septembre 2026 · 13 min de lecture
Stratégie

Plateforme IA locale et LLM open source : l'analyse d'un choix on-premise

Plateforme IA locale avec un LLM open source : confidentialité, permanence et maîtrise du modèle sont acquises, licence et seuil se gèrent. Bancs, licences et coûts vérifiés.

Publié le 5 septembre 2026 · Mis à jour le 26 septembre 2026 · 21 min de lecture
Matériel

Débit d'un LLM en tokens par seconde : les quatre conditions qui changent tout, mesurées sur seize machines

Le même modèle va de 14 à 290 tokens par seconde selon la machine, et le logiciel, la compression et le nombre d'utilisateurs comptent autant. Huit tableaux sourcés, expliqués en langage courant.

Publié le 30 août 2026 · Mis à jour le 26 septembre 2026 · 14 min de lecture
Matériel

Qwen3.8-Flash-Next sur Mac Studio M5 Ultra : 112 Go de poids, un million de tokens

180 milliards de paramètres dont 6 actifs, 111,6 Go mesurés en MLX 4 bits, 24 Kio de cache par token : le dimensionnement réel sur un M5 Ultra de 512 Go.

Publié le 30 août 2026 · Mis à jour le 26 septembre 2026 · 9 min de lecture
Matériel

GLM-5.3-Flash sur Mac Studio M5 Ultra : 320 milliards de paramètres dans 512 Go

334,1 Go mesurés en MLX 8 bits, 11 Kio de cache par token, fenêtre déclarée d'un million de tokens : le dimensionnement de GLM-5.3-Flash sur M5 Ultra.

Publié le 30 août 2026 · Mis à jour le 26 septembre 2026 · 9 min de lecture
Architecture

Patterns RAG avancés en entreprise : ce qui sépare une démo d'un système qui tient

Découper avec le contexte, filtrer par habilitation avant de scorer, décomposer, rendre large, mesurer le rappel : les cinq patterns qui font tenir un RAG.

Publié le 28 août 2026 · Mis à jour le 26 septembre 2026 · 11 min de lecture
Conformité

Données sensibles et IA : ce qu'une politique de zéro rétention garantit vraiment

Zéro rétention est un engagement contractuel, pas une propriété observable. Les quatre endroits où la donnée se dépose quand même, et ce que le local change.

Publié le 28 août 2026 · Mis à jour le 26 septembre 2026 · 9 min de lecture
Conformité

Traduction juridique et IA : traduire un contrat sans le publier

Traduire un contrat en ligne, c'est le communiquer entier à un tiers. Pourquoi le secret ne se règle pas par contrat, et comment traduire sur site.

Publié le 28 août 2026 · Mis à jour le 26 septembre 2026 · 9 min de lecture
Conformité

Chatbot IA et RGPD : les quatre obligations qui se règlent dans l'architecture

Informer, fonder, limiter, prouver : les quatre obligations d'un chatbot d'entreprise, et pourquoi trois se décident dans l'architecture, pas dans les CGU.

Publié le 28 août 2026 · Mis à jour le 27 septembre 2026 · 10 min de lecture
Orchestration

Moteur d'orchestration IA : router chaque requête vers le bon modèle

Classer la requête, choisir le modèle, passer par une passerelle à quotas : comment un moteur d'orchestration décide ce qui reste sur site et ce qui part.

Publié le 28 août 2026 · Mis à jour le 26 septembre 2026 · 10 min de lecture
Matériel

Mac Studio M5 Ultra : 512 Go à 1,2 To/s, ce que ça change pour un LLM local

512 Go à 1,2 To/s : ce que la M5 Ultra change pour un LLM local, quels modèles Flash y logent, et ce que la quantification MLX coûte en qualité.

Publié le 28 août 2026 · Mis à jour le 26 septembre 2026 · 11 min de lecture
Matériel

ASRock AI BOX-A395 + Qwen3.8-27B : 256K de contexte sur Strix Halo 128 GB

L'ASRock AI BOX-A395 (Ryzen AI Max+ 395, 128 Go partagés) fait tourner Qwen3.8-27B multimodal à son contexte natif de 262 144 tokens.

Publié le 20 août 2026 · Mis à jour le 26 septembre 2026 · 12 min de lecture
Matériel

Qwen3.8-27B en local : 262 144 tokens de contexte sur une seule machine

Architecture hybride Gated DeltaNet, cache KV réduit à 64 Kio par token, contexte natif 262 144 : ce qu'il faut comme matériel pour servir Qwen3.8-27B sur site.

Publié le 18 août 2026 · Mis à jour le 26 septembre 2026 · 8 min de lecture
Modèles

DeepSeek V4 Flash Vision Exp : premier multimodal ouvert

DeepSeek publie son premier multimodal en poids ouverts le 31 août 2026 : ce que la tour visuelle ajoute à V4 Flash, et ce que le label expérimental engage.

Publié le 31 août 2026 · Mis à jour le 26 septembre 2026 · 9 min de lecture
Modèles

GLM 5.3 deep on-premise : quel matériel, à quelle vitesse ?

Étude complète de GLM 5.3 : 744 milliards de paramètres, 40 actifs, contexte d'un million de tokens, et le débit mesuré du DGX Spark à la baie GB300 NVL72.

Publié le 18 août 2026 · Mis à jour le 26 septembre 2026 · 10 min de lecture
Matériel

DeepSeek V4 Flash 0731 sur DGX Station et cluster 2× DGX Spark

DeepSeek V4 Flash 0731 (284 B, 13 B actifs, 1 M de contexte) sur DGX Spark, cluster 2× Spark et DGX Station GB300 : recettes vLLM, bancs d'essai et coût réel.

Publié le 2 août 2026 · Mis à jour le 26 septembre 2026 · 11 min de lecture
Modèles

Benchmark indépendant : DeepSeek V4 Flash 0731 vs Claude Opus 5 vs GPT-5.5

DeepSeek V4 Flash 0731 (284 B, 13 B actifs, 1 M de contexte) : scores de l'éditeur, coût réel au token face aux API, et ce que change l'exécution sur site.

Publié le 2 août 2026 · Mis à jour le 26 septembre 2026 · 10 min de lecture
Modèles

Résultats publiés de DeepSeek V4 Flash 0731 (open weight, 2026)

Résultats de benchmark publiés par les éditeurs pour DeepSeek V4 Flash 0731 et GLM 5.2 (open weight, 2026) : Terminal Bench, NL2Repo, GPQA Diamond, HLE. Aucune estimation.

Publié le 2 août 2026 · Mis à jour le 26 septembre 2026 · 8 min de lecture
Cas d'usage

Scénario chiffré : DeepSeek V4 sur DGX Station pour une PME de 80 personnes

Scénario de dimensionnement, pas un retour client : DeepSeek V4 Flash 0731 sur DGX Station GB300 pour une PME de 80 personnes. Débits estimés, TCO sur 3 ans, seuil de rentabilité face aux API.

Publié le 2 août 2026 · Mis à jour le 26 septembre 2026 · 8 min de lecture
Modèles

Modèles open weight pour déploiement local 2026 : comparatif complet

Les modèles à poids ouverts qui tiennent en local en 2026 : taille réelle, paramètres actifs, contexte et matériel nécessaire, gamme par gamme.

Publié le 2 août 2026 · Mis à jour le 26 septembre 2026 · 10 min de lecture
Orchestration

Couche sémantique et ontologie pour agents IA

Une couche sémantique à base d'ontologie donne aux agents IA un contexte gouverné : architecture, knowledge graph, enforcement eBPF et déploiement souverain.

Publié le 23 juillet 2026 · Mis à jour le 26 septembre 2026 · 9 min de lecture
Modèles

Qwen3.8-Max-Preview : 2 400 milliards de paramètres, et des questions

Qwen3.8-Max : 2 400 milliards de paramètres, 95 actifs, et depuis août 2026 les poids du modèle de base publiés sur Hugging Face. Ce que cela change pour un LLM local.

Publié le 21 juillet 2026 · Mis à jour le 26 septembre 2026 · 7 min de lecture
Stratégie

Kill switch et LLM local : ce que change le rapport parlementaire n° 3054

Juin 2026 : l'accès des étrangers à deux modèles d'IA majeurs est suspendu sur ordre américain. Le rapport n° 3054 propose un crédit d'impôt open source.

Publié le 19 juillet 2026 · Mis à jour le 26 septembre 2026 · 8 min de lecture
Matériel

Prefill, decode et cache KV : quel matériel pour un LLM

Le prefill est borné par le calcul, le decode par la bande passante, le cache KV grossit à chaque token. Lequel des trois décide de votre matériel.

Publié le 18 juillet 2026 · Mis à jour le 26 septembre 2026 · 10 min de lecture
Guides

Faire tourner une IA en local sur votre PC

Deux façons de faire tourner une IA sur votre machine en 2026 : gratuitement avec des modèles ouverts, ou un DGX Spark (ASUS, Dell, Lenovo, MSI).

Publié le 18 juillet 2026 · Mis à jour le 26 septembre 2026 · 9 min de lecture
Guides

RAG en entreprise : brancher l'IA sur vos documents

Le RAG en entreprise en 2026 : découpage, recherche hybride, reranking et contrôle d'accès. L'architecture pour brancher un LLM sur vos documents, en local.

Publié le 18 juillet 2026 · Mis à jour le 26 septembre 2026 · 9 min de lecture
Conformité

IA générative et RGPD : la reprise de contrôle

IA générative et RGPD en 2026 : ce que recommande la CNIL, le risque extraterritorial, et comment l'IA locale rend le contrôle des données à l'entreprise.

Publié le 18 juillet 2026 · Mis à jour le 26 septembre 2026 · 8 min de lecture
Matériel

Quel serveur pour l'IA ? Guide et prix par gamme

Combien coûte un serveur IA en 2026 ? De 6 100 € TTC le poste DGX Spark à environ 451 000 € HT le serveur 8 GPU, la station GB300 entre 88 000 et 110 500 € HT.

Publié le 18 juillet 2026 · Mis à jour le 26 septembre 2026 · 9 min de lecture
Modèles

LLM local : quel modèle d'IA open source choisir ?

Comparatif des LLM open source à faire tourner en local en 2026 : GLM, DeepSeek, Kimi, Mistral, Qwen. Taille, points forts, licence et matériel.

Publié le 18 juillet 2026 · Mis à jour le 26 septembre 2026 · 9 min de lecture
Guides

Installer un LLM local en entreprise : le guide

Installer un LLM local en entreprise : modèle, matériel NVIDIA certifié HPE, Dell ou Supermicro, runtime vLLM ou llama.cpp, passerelle et sécurité.

Publié le 18 juillet 2026 · Mis à jour le 26 septembre 2026 · 8 min de lecture
Agentique

Orchestrer plusieurs agents de code en parallèle

Le développement passe de l'agent unique à la flotte : un superviseur délègue aux sous-agents, garde le contexte, et la revue reste le seul vrai goulot.

Publié le 18 juillet 2026 · Mis à jour le 26 septembre 2026 · 9 min de lecture
Format ouvert

Open Knowledge Format : un format ouvert pour la mémoire des agents IA

OKF représente en Markdown la connaissance que consomment les agents IA. Portable, versionnable et sans lock-in, il sert la mémoire des plateformes souveraines.

Publié le 17 juillet 2026 · Mis à jour le 26 septembre 2026 · 8 min de lecture
Cas d'usage

Chatbot d'entreprise : le cas d'usage du ChatGPT interne

Le cas d'usage du chatbot d'entreprise : un ChatGPT interne branché sur vos documents par RAG, conforme au RGPD et hébergé en local. Matériel par segment.

Publié le 16 juillet 2026 · Mis à jour le 26 septembre 2026 · 8 min de lecture
Cas d'usage

Coder avec l'IA sur un modèle local via LiteLLM

Un harness OpenCode, des modèles ouverts servis par vLLM, une passerelle LiteLLM avec quotas : l'assistance au code sans qu'une ligne quitte votre infra.

Publié le 16 juillet 2026 · Mis à jour le 26 septembre 2026 · 9 min de lecture
Cas d'usage

IA pour les applications métier : CRM, support, ERP, documents

Une API IA interne unique sert le CRM, le support, l'ERP et la gestion documentaire, avec clés virtuelles, budgets et télémétrie par application.

Publié le 16 juillet 2026 · Mis à jour le 26 septembre 2026 · 9 min de lecture
Fondamentaux

Qu'est-ce qu'une plateforme IA souveraine ?

Définition, différence entre local et hybride, matériel, modèles ouverts et conformité. Le guide de référence pour cadrer un projet.

Publié le 5 juillet 2026 · Mis à jour le 26 septembre 2026 · 7 min de lecture
Coûts

Sur site ou API : à partir de combien d'utilisateurs le LLM local est-il rentable ?

Le point de bascule des coûts LLM, le rôle du cache clé-valeur et la comparaison avec le paiement au token.

Publié le 5 juillet 2026 · Mis à jour le 26 septembre 2026 · 10 min de lecture
Méthode

De votre serveur GPU à un service LLM en production

Une méthode en sept phases pour passer d'un serveur GPU à un service LLM en production, avec un livrable et un critère de sortie par phase.

Publié le 5 juillet 2026 · Mis à jour le 26 septembre 2026 · 11 min de lecture
Agentique

D'un chatbot à une plateforme agentique

Le harness, la mémoire à trois couches et les skills transforment un chatbot en plateforme agentique qui exécute les tâches et capitalise les procédures.

Publié le 5 juillet 2026 · Mis à jour le 26 septembre 2026 · 10 min de lecture
Exploitation

Les pièges de la mise en production d'un LLM sur site

Huit pièges concrets de la mise en production d'un service d'inférence LLM sur site, et les mesures qui permettent de les éviter.

Publié le 5 juillet 2026 · Mis à jour le 26 septembre 2026 · 9 min de lecture