LLM local et conformité dans la santé
Le secteur relève du cadre HDS et RGPD. Servir un modèle dans les murs du client déplace la question du transfert de données.
Quel cadre s’applique ?
Le secteur relève de HDS et RGPD. Le point sensible porte sur hébergement de données de santé certifié. Un traitement réalisé sur site supprime le transfert des données vers un fournisseur, donc la question du lieu d’hébergement et celle du sous-traitant.
Quelles plateformes conviennent ?
- DGX Spark, 128 Go, 5,9 à 7,8 k€
- Mac Studio Ultra, 512 Go, 39 à 59 k€
- DGX Station, 748 Go, 117 à 169 k€
- Serveur RTX PRO 6000, 768 Go, 250 à 350 k€
- Serveur H200 SXM, 1 128 Go, 350 à 500 k€
- B300 SXM, 2 304 Go, 500 à 800 k€
- GB300 NVL72, 20 700 Go, dès 3,9 M€
Le dimensionnement dépend du modèle retenu. Voir les pages de dimensionnement pour l’empreinte de chaque modèle sur chaque plateforme.
Ce que cette page ne dit pas
Cette page décrit une architecture, elle ne constitue pas un avis juridique. La conformité s’apprécie sur le traitement réel, avec le délégué à la protection des données de l’organisation et, le cas échéant, son autorité de contrôle.
Sources officielles
- Certification HDS, Agence du Numérique en Santé
- Règlement (UE) 2016/679 (RGPD), texte officiel, EUR-Lex
- Intelligence artificielle, recommandations de la CNIL
Un LLM local répond-il au HDS et RGPD ?
Un modèle servi dans les murs du client traite les données sur place. Aucune donnée ne sort du système d’information, ce qui répond au cadre HDS et RGPD sans dépendre d’un transfert vers un tiers.
Quelle plateforme pour commencer ?
Le choix dépend du modèle visé et du nombre d’utilisateurs. Les pages de dimensionnement donnent l’empreinte mémoire de chaque modèle sur chaque plateforme.
Méthode
Les valeurs proviennent des fiches du site. Les empreintes mémoire sont calculées, elles ne sont pas mesurées : un relevé sur machine peut s’en écarter selon le moteur et le format exact des poids. Les prix sont indicatifs et non contractuels.