QDNAConseil et architecture de plateformes d'inférence et d'entraînement de LLM, en local ou hybride
Architecture

API externes

Les API externes mobilisées en débord du socle local, en complément des modèles souverains, pour absorber les pics ou accéder à une capacité ponctuelle.

OpenAI (ChatGPT)

OpenAI met à disposition en SaaS la famille ChatGPT et les modèles GPT, au premier plan pour le raisonnement, le code et le multimodal.

Anthropic (Claude)

Anthropic met à disposition en SaaS la famille Claude, reconnue pour le raisonnement long, le code fiable et la sûreté.

Amazon Bedrock

Amazon Bedrock agrège en SaaS des modèles de plusieurs fournisseurs, dont Anthropic, Meta, Mistral et Amazon, derrière une seule API managée.

OpenRouter

OpenRouter agrège en SaaS des centaines de modèles derrière une interface unique, dont les grands modèles chinois ouverts (DeepSeek, GLM, Qwen, Kimi),…

Azure AI Foundry

Azure AI Foundry, la plateforme unifiée de Microsoft, donne accès en SaaS à un large catalogue de modèles, dont GPT d’OpenAI, Llama, Mistral et Phi,…