QDNAVente et intégration de plateformes d'inférence et d'entraînement de LLM, en local ou hybride

LLM local et conformité dans la santé

Le secteur relève du cadre HDS et RGPD. Servir un modèle dans les murs du client déplace la question du transfert de données.

Réponse courte. Un modèle servi dans les murs du client traite les données sur place. Aucune donnée ne sort du système d’information, ce qui répond au cadre HDS et RGPD sans dépendre d’un transfert vers un tiers.

Quel cadre s’applique ?

Le secteur relève de HDS et RGPD. Le point sensible porte sur hébergement de données de santé certifié. Un traitement réalisé sur site supprime le transfert des données vers un fournisseur, donc la question du lieu d’hébergement et celle du sous-traitant.

Quelles plateformes conviennent ?

Le dimensionnement dépend du modèle retenu. Voir les pages de dimensionnement pour l’empreinte de chaque modèle sur chaque plateforme.

Ce que cette page ne dit pas

Cette page décrit une architecture, elle ne constitue pas un avis juridique. La conformité s’apprécie sur le traitement réel, avec le délégué à la protection des données de l’organisation et, le cas échéant, son autorité de contrôle.

Sources officielles

Un LLM local répond-il au HDS et RGPD ?

Un modèle servi dans les murs du client traite les données sur place. Aucune donnée ne sort du système d’information, ce qui répond au cadre HDS et RGPD sans dépendre d’un transfert vers un tiers.

Quelle plateforme pour commencer ?

Le choix dépend du modèle visé et du nombre d’utilisateurs. Les pages de dimensionnement donnent l’empreinte mémoire de chaque modèle sur chaque plateforme.

Méthode

Les valeurs proviennent des fiches du site. Les empreintes mémoire sont calculées, elles ne sont pas mesurées : un relevé sur machine peut s’en écarter selon le moteur et le format exact des poids. Les prix sont indicatifs et non contractuels.