LM Studio : déchargement GPU pour LLM locaux
Cette page peut contenir des liens partenaires Amazon : si vous achetez après un clic, le site peut percevoir une commission sans surcoût pour vous. Nos conseils restent indépendants. En savoir plus.
LM Studio est une application avec interface graphique pour charger des modèles GGUF (GPT-Generated Unified Format, format quantifié des poids LLM pour l’inférence locale) et ajuster le déchargement GPU (GPU offload, répartition des couches du modèle entre la VRAM — mémoire carte graphique — et la RAM système). Ollama reste souvent préférable pour une stack serveur (Docker, Home Assistant) ; LM Studio convient bien pour comparer des modèles avant de les tirer avec Ollama.
Mini-glossaire interface LM Studio (libellés anglais)
| Anglais (UI) | Français |
|---|---|
| Discover | Découvrir / télécharger des modèles |
| Local | Modèles déjà sur le disque |
| GPU Layers | Couches exécutées sur le GPU |
| Chat | Conversation de test |
Prérequis
- LM Studio installé — guide débutant LM Studio.
- Carte NVIDIA ou AMD avec pilotes à jour, ou Apple Silicon (mémoire unifiée — voir Mac Mini M4).
- Comprendre votre VRAM : VRAM et quel modèle.
Tableau indicatif : VRAM et couches GPU (7B–8B Q4)
Ordres de grandeur indicatifs octobre 2026 — ajustez dans GPU Layers (couches GPU, voir mini-glossaire) selon votre carte. Utilisez ce tableau pendant le réglage des couches GPU (étape 3 ci-dessous) ; sur mobile, un encart renvoie vers ce même tableau sans le recopier.
| VRAM disponible ~ | Modèle 7B–8B Q4_K_M | Couches GPU (indicatif) |
|---|---|---|
| 6 Go | risqué | 0–15 (souvent CPU) |
| 8 Go | jouable (minimum confortable 7B Q4) | 20–28 |
| 12 Go | confortable | 30–35 (presque tout sur GPU) |
| 16 Go+ | large marge | max ou proche max |
Si la génération plante ou ralentit brutalement, baissez le nombre de couches de 4 et retestez.
Lire la VRAM pendant le réglage (Windows)
- Ouvrez Gestionnaire des tâches → Performance → GPU → colonne Mémoire GPU dédiée.
- Chargez le modèle dans LM Studio avec GPU Layers à 0 : notez la VRAM au repos après chargement.
- Remontez par paliers de 8 : dès que la barre frôle 95 % en génération, reculez de 4 couches.
Sous Linux, la commande nvidia-smi (outil NVIDIA en ligne de commande) affiche memory.used / memory.total — utile en SSH sur un mini-PC sans bureau graphique. Si vous n’avez pas NVIDIA, reposez-vous sur le tableau CPU/RAM du guide VRAM et acceptez un 7B surtout processeur.
Modèles instruct vs base
Dans Discover (Découvrir, mini-glossaire), privilégiez les fiches instruct (modèles entraînés pour dialoguer et suivre des consignes) plutôt que base (poids bruts, moins adaptés au chat). La quantification Q4_K_M (4 bits, compromis taille/qualité courant en oct. 2026) reste le standard foyer pour un 7B — même logique que sur choisir premier modèle.
Procédure pas à pas
- Ouvrez LM Studio → onglet Discover (Découvrir, voir mini-glossaire) ou Local (modèles sur disque, même glossaire) → téléchargez un modèle instruct Q4 (ex. Mistral 7B instruct).
- Onglet Chat (conversation de test, mini-glossaire) → sélectionnez le modèle → dans le coin bas droit de la fenêtre de chat, cliquez l’icône CPU/GPU : le panneau Hardware s’ouvre avec le curseur GPU Layers et l’aperçu charge CPU/GPU.
- Réglez GPU Layers (couches GPU) : commencez à 0, montez par paliers de 8 en observant la VRAM (Gestionnaire des tâches Windows ou
nvidia-smisous Linux). Recoupez avec le tableau VRAM avant de monter trop haut ; l’encart sous cette procédure renvoie au même tableau sur mobile. - Posez la même consigne trois fois (« Résume en 3 puces… ») et comparez latence + qualité.
- Notez le réglage stable pour reproduire plus tard sous Ollama si vous migrez — choisir premier modèle.
Même tableau VRAM (étape 3) — pendant le réglage des GPU Layers, gardez sous les yeux le tableau indicatif VRAM et couches GPU en haut d’article (pas de copie ici : une seule source de vérité). Si la génération plante, baissez de 4 couches et retestez.
Mac Apple Silicon
Il n’y a pas de VRAM discret : la mémoire unifiée est partagée. Réglez moins agressivement si vous avez 16 Go unifiés ; 24–32 Go permettent des modèles 8B confortables — détail Mac Mini M4.
Suite : intégrations et code local
Une fois le réglage GPU stable dans LM Studio, la plupart des foyers basculent vers Ollama pour le chat familial (Open WebUI, assistant privé). Pour le développement dans VS Code (Visual Studio Code, éditeur Microsoft), l’extension Continue est une barre latérale qui envoie vos fichiers ouverts à un LLM pour compléter du code — en pratique elle cible l’API Ollama sur http://127.0.0.1:11434, pas LM Studio, sauf configuration avancée. Guide dédié : assistant code local Continue.
Autres liens utiles :
- GPU, iGPU, eGPU OCuLink si vous montez une RTX ou un boîtier externe.
- VRAM et quel modèle avant d’acheter une carte.
- Budget électricité si la tour reste allumée pour LM Studio + Ollama.
- SSD modèles : les GGUF téléchargés via Discover occupent des dizaines de Go.
Matériel si la VRAM bloque le 7B Q4 — comparez d’abord votre ligne du tableau (8 Go minimum confortable pour un 7B Q4, couches ~20–28). Si vous êtes en dessous (6 Go ou moins de couches stables), une carte 8 Go VRAM peut être la prochaine étape ; nous ne listons pas de prix ni de modèle précis : ouvrez une recherche et lisez la fiche (VRAM, longueur, alimentation). Recherche indicative RTX 4060 (souvent 8 Go), oct. 2026 : RTX 4060 sur Amazon.fr (lien partenaire — affiliation).
Stabilité : signes de sur-réglage GPU
- Génération qui s’arrête net à mi-phrase.
- Message d’erreur mémoire ou écran noir driver NVIDIA.
- VRAM à 100 % constante dès le chargement.
Action : baissez les couches GPU de 4, redémarrez LM Studio, retestez.
Exporter vers Ollama
Une fois le modèle validé dans LM Studio (ex. Mistral 7B Instruct Q4_K_M testé via Discover), ouvrez la fiche mistral sur Ollama library, choisissez un tag proche de votre quantification LM Studio, puis tirez :
ollama pull mistral:7b-instruct-q4_K_M
Si la commande répond success (ou équivalent selon votre version Ollama), le même type de modèle est prêt pour Docker et Home Assistant — détail des tags Q4/Q5 dans installer Ollama.
Sécurité
LM Studio écoute parfois une API locale si activée ; gardez le pare-feu actif et n’exposez pas le port sur Internet sans authentification.
Erreurs fréquentes (déchargement GPU)
| Symptôme | Piste |
|---|---|
| VRAM à 0 % malgré GPU Layers | Pilote NVIDIA obsolète ou mauvais backend sélectionné |
| Qualité identique CPU/GPU | Couches GPU trop basses — remontez par paliers de 8 |
| Mac 16 Go unifiés saturés | Fermez navigateur et apps ; testez un modèle 7B Q4 uniquement |
| Modèle introuvable après Discover | Vérifiez le dossier modèles LM Studio ; croisez SSD |
Pour aller plus loin
- Installer LM StudioPremière ouverture de Discover et chat local.
- Premiers pas WhisperTranscription sans passer par Ollama.
- ComfyUI et FLUXAutre consommateur VRAM — une grosse charge à la fois.
- Coût sur 3 ansLM Studio seul ne remplace pas un abonnement cloud.
LM Studio ou Ollama : tableau de décision (unique)
| Situation / besoin | LM Studio | Ollama | Suite recommandée |
|---|---|---|---|
| Tester ou comparer des GGUF (chat visuel) | oui — GPU Layers | possible en CLI | Noter le réglage stable, puis ollama pull équivalent |
| Réglage fin du déchargement GPU | oui | déchargement partiel selon version | Garder LM Studio pour la calibration VRAM |
| Moins de terminal au départ | interface guidée (Discover, Chat) | CLI + intégrations à parcourir | Installer LM Studio puis Ollama |
| API locale stable (scripts, Docker) | limité | oui | Docker Ollama + Open WebUI |
| Chat navigateur pour toute la famille | via Ollama | oui + Open WebUI | LM Studio reste utile pour tests ponctuels |
| Domotique ou workflows | non adapté seul | oui | Home Assistant, n8n |
| Code avec aide IA (VS Code) | calibrer VRAM d’abord | API Ollama pour Continue | Assistant code local Continue |
En pratique : LM Studio pour calibrer GPU Layers sur une RTX ou un Mac, puis Ollama pour servir le même type de modèle à toute la maison. Mesurez la conso si la machine reste allumée (électricité).
Checklist première session (15–30 min)
- Installer LM Studio — guide débutant.
- Télécharger un 7B instruct Q4 via Discover (Découvrir, mini-glossaire).
- Régler GPU Layers par paliers de 8 jusqu’à la première erreur mémoire, puis reculer de 4.
- Noter le réglage stable dans un fichier texte (
gpu-layers-mistral-7b.txt). - Chercher l’équivalent sur Ollama et
ollama pullpour Open WebUI. - Si la tour chauffe le salon, comparer avec un mini-PC dédié au seul chat.
Cette checklist évite de rester bloqué dans LM Studio alors que votre objectif foyer est une API Ollama stable pour toute la famille. Besoin d’un rappel Ollama vs LM Studio ? Revenez au tableau de décision juste au-dessus.
Questions fréquentes
LM Studio ou Ollama pour un foyer ?
LM Studio excelle pour tester des modèles avec interface ; Ollama est plus adapté aux API, Docker et intégrations (Home Assistant, n8n).
Le GPU n’apparaît pas dans LM Studio
Mettez à jour les pilotes NVIDIA ou AMD ; sur Mac, vérifiez que le backend Metal est actif ; redémarrez LM Studio après install pilote.
Combien de couches GPU régler ?
Montez progressivement jusqu’à saturation de VRAM puis reculez de 4 couches si crash ou génération qui s’arrête — comme dans la procédure pas à pas.