Unsloth
Runtime d’inférence
Unsloth accélère le réglage fin d’un facteur deux, selon son éditeur, tout en réduisant la mémoire nécessaire, par les méthodes LoRA et QLoRA. La spécialisation d’un modèle ouvert sur vos données métier s’effectue sur place, sans transfert vers un tiers.
Points clés : Réglage fin · LoRA et QLoRA · Facteur deux annoncé · Mémoire réduite · Souverain.
Rôle
Unsloth accélère le réglage fin des modèles ouverts, pour les spécialiser sur des données métier.
Fonctionnement
Il applique les méthodes LoRA et QLoRA. L’éditeur annonce un entraînement deux fois plus rapide avec 70 % de mémoire vidéo en moins sur ses carnets de référence (Llama 3.1 8B, gpt-oss 20B), chiffres publiés dans le dépôt Unsloth et relus le 2 septembre 2026 ; QDNA ne les a pas mesurés.
Cas d’usage
La spécialisation d’un modèle ouvert sur vos données s’effectue sur place, sans transfert vers un tiers.
Intégration
Le modèle réglé se sert ensuite par vLLM ou llama.cpp, dans la continuité de la pile souveraine.
Licence et code source
Unsloth est publié sous licence Apache-2.0 et écrit en Python. Le code étant public, le moteur peut être audité, corrigé et figé sur un commit connu, plutôt que d'être cru sur parole.
Dépôt : unslothai/unsloth. La licence et le langage sont relus à cette source par la base de faits QDNA. Le numéro de version n'est volontairement pas publié ici : il deviendrait faux entre deux sorties amont sans que rien ne le signale.
Quels modèles servir avec Unsloth ?
| Modèle | Milliards de paramètres | Page « servir » |
|---|---|---|
| GLM 5.3 | 744 | GLM 5.3 avec Unsloth |
| Kimi K2.7 Code | 1 000 | Kimi K2.7 Code avec Unsloth |
| MiniMax M3 | 428 | MiniMax M3 avec Unsloth |
| Nemotron 3 Ultra | 550 | Nemotron 3 Ultra avec Unsloth |
| Qwen 3.8 27B | 27 | Qwen 3.8 27B avec Unsloth |
Voir l’ensemble des combinaisons de moteur et de modèle.