LLM local et conformité dans la finance
Le secteur relève du cadre DORA et RGPD. Servir un modèle dans les murs du client déplace la question du transfert de données.
Quel cadre s’applique ?
Le secteur relève de DORA et RGPD. Le point sensible porte sur résilience opérationnelle numérique. Un traitement réalisé sur site supprime le transfert des données vers un fournisseur, donc la question du lieu d’hébergement et celle du sous-traitant.
Quelles plateformes conviennent ?
- DGX Spark, 128 Go, 5,9 à 7,8 k€
- Mac Studio Ultra, 512 Go, 39 à 59 k€
- DGX Station, 748 Go, 117 à 169 k€
- Serveur RTX PRO 6000, 768 Go, 250 à 350 k€
- Serveur H200 SXM, 1 128 Go, 350 à 500 k€
- B300 SXM, 2 304 Go, 500 à 800 k€
- GB300 NVL72, 20 700 Go, dès 3,9 M€
Le dimensionnement dépend du modèle retenu. Voir les pages de dimensionnement pour l’empreinte de chaque modèle sur chaque plateforme.
Ce que cette page ne dit pas
Cette page décrit une architecture, elle ne constitue pas un avis juridique. La conformité s’apprécie sur le traitement réel, avec le délégué à la protection des données de l’organisation et, le cas échéant, son autorité de contrôle.
Sources officielles
- Règlement (UE) 2022/2554 (DORA), texte officiel, EUR-Lex
- Règlement (UE) 2016/679 (RGPD), texte officiel, EUR-Lex
- Intelligence artificielle, recommandations de la CNIL
Un LLM local répond-il au DORA et RGPD ?
Un modèle servi dans les murs du client traite les données sur place. Aucune donnée ne sort du système d’information, ce qui répond au cadre DORA et RGPD sans dépendre d’un transfert vers un tiers.
Quelle plateforme pour commencer ?
Le choix dépend du modèle visé et du nombre d’utilisateurs. Les pages de dimensionnement donnent l’empreinte mémoire de chaque modèle sur chaque plateforme.
Méthode
Les valeurs proviennent des fiches du site. Les empreintes mémoire sont calculées, elles ne sont pas mesurées : un relevé sur machine peut s’en écarter selon le moteur et le format exact des poids. Les prix sont indicatifs et non contractuels.