LM Studio : déchargement GPU pour LLM locaux

Par Emmanuel Sauvage · Publié le · Mis à jour le

Cette page peut contenir des liens partenaires Amazon : si vous achetez après un clic, le site peut percevoir une commission sans surcoût pour vous. Nos conseils restent indépendants. En savoir plus.

LM Studio est une application avec interface graphique pour charger des modèles GGUF (GPT-Generated Unified Format, format quantifié des poids LLM pour l’inférence locale) et ajuster le déchargement GPU (GPU offload, répartition des couches du modèle entre la VRAM — mémoire carte graphique — et la RAM système). Ollama reste souvent préférable pour une stack serveur (Docker, Home Assistant) ; LM Studio convient bien pour comparer des modèles avant de les tirer avec Ollama.

Mini-glossaire interface LM Studio (libellés anglais)

Anglais (UI) Français
Discover Découvrir / télécharger des modèles
Local Modèles déjà sur le disque
GPU Layers Couches exécutées sur le GPU
Chat Conversation de test

Prérequis

Tableau indicatif : VRAM et couches GPU (7B–8B Q4)

Ordres de grandeur indicatifs octobre 2026 — ajustez dans GPU Layers (couches GPU, voir mini-glossaire) selon votre carte. Utilisez ce tableau pendant le réglage des couches GPU (étape 3 ci-dessous) ; sur mobile, un encart renvoie vers ce même tableau sans le recopier.

VRAM disponible ~ Modèle 7B–8B Q4_K_M Couches GPU (indicatif)
6 Go risqué 0–15 (souvent CPU)
8 Go jouable (minimum confortable 7B Q4) 20–28
12 Go confortable 30–35 (presque tout sur GPU)
16 Go+ large marge max ou proche max

Si la génération plante ou ralentit brutalement, baissez le nombre de couches de 4 et retestez.

Lire la VRAM pendant le réglage (Windows)

  1. Ouvrez Gestionnaire des tâches → Performance → GPU → colonne Mémoire GPU dédiée.
  2. Chargez le modèle dans LM Studio avec GPU Layers à 0 : notez la VRAM au repos après chargement.
  3. Remontez par paliers de 8 : dès que la barre frôle 95 % en génération, reculez de 4 couches.

Sous Linux, la commande nvidia-smi (outil NVIDIA en ligne de commande) affiche memory.used / memory.total — utile en SSH sur un mini-PC sans bureau graphique. Si vous n’avez pas NVIDIA, reposez-vous sur le tableau CPU/RAM du guide VRAM et acceptez un 7B surtout processeur.

Modèles instruct vs base

Dans Discover (Découvrir, mini-glossaire), privilégiez les fiches instruct (modèles entraînés pour dialoguer et suivre des consignes) plutôt que base (poids bruts, moins adaptés au chat). La quantification Q4_K_M (4 bits, compromis taille/qualité courant en oct. 2026) reste le standard foyer pour un 7B — même logique que sur choisir premier modèle.

Procédure pas à pas

  1. Ouvrez LM Studio → onglet Discover (Découvrir, voir mini-glossaire) ou Local (modèles sur disque, même glossaire) → téléchargez un modèle instruct Q4 (ex. Mistral 7B instruct).
  2. Onglet Chat (conversation de test, mini-glossaire) → sélectionnez le modèle → dans le coin bas droit de la fenêtre de chat, cliquez l’icône CPU/GPU : le panneau Hardware s’ouvre avec le curseur GPU Layers et l’aperçu charge CPU/GPU.
  3. Réglez GPU Layers (couches GPU) : commencez à 0, montez par paliers de 8 en observant la VRAM (Gestionnaire des tâches Windows ou nvidia-smi sous Linux). Recoupez avec le tableau VRAM avant de monter trop haut ; l’encart sous cette procédure renvoie au même tableau sur mobile.
  4. Posez la même consigne trois fois (« Résume en 3 puces… ») et comparez latence + qualité.
  5. Notez le réglage stable pour reproduire plus tard sous Ollama si vous migrez — choisir premier modèle.

Même tableau VRAM (étape 3) — pendant le réglage des GPU Layers, gardez sous les yeux le tableau indicatif VRAM et couches GPU en haut d’article (pas de copie ici : une seule source de vérité). Si la génération plante, baissez de 4 couches et retestez.

Mac Apple Silicon

Il n’y a pas de VRAM discret : la mémoire unifiée est partagée. Réglez moins agressivement si vous avez 16 Go unifiés ; 24–32 Go permettent des modèles 8B confortables — détail Mac Mini M4.

Suite : intégrations et code local

Une fois le réglage GPU stable dans LM Studio, la plupart des foyers basculent vers Ollama pour le chat familial (Open WebUI, assistant privé). Pour le développement dans VS Code (Visual Studio Code, éditeur Microsoft), l’extension Continue est une barre latérale qui envoie vos fichiers ouverts à un LLM pour compléter du code — en pratique elle cible l’API Ollama sur http://127.0.0.1:11434, pas LM Studio, sauf configuration avancée. Guide dédié : assistant code local Continue.

Autres liens utiles :

Matériel si la VRAM bloque le 7B Q4 — comparez d’abord votre ligne du tableau (8 Go minimum confortable pour un 7B Q4, couches ~20–28). Si vous êtes en dessous (6 Go ou moins de couches stables), une carte 8 Go VRAM peut être la prochaine étape ; nous ne listons pas de prix ni de modèle précis : ouvrez une recherche et lisez la fiche (VRAM, longueur, alimentation). Recherche indicative RTX 4060 (souvent 8 Go), oct. 2026 : RTX 4060 sur Amazon.fr (lien partenaire — affiliation).

Stabilité : signes de sur-réglage GPU

  • Génération qui s’arrête net à mi-phrase.
  • Message d’erreur mémoire ou écran noir driver NVIDIA.
  • VRAM à 100 % constante dès le chargement.

Action : baissez les couches GPU de 4, redémarrez LM Studio, retestez.

Exporter vers Ollama

Une fois le modèle validé dans LM Studio (ex. Mistral 7B Instruct Q4_K_M testé via Discover), ouvrez la fiche mistral sur Ollama library, choisissez un tag proche de votre quantification LM Studio, puis tirez :

ollama pull mistral:7b-instruct-q4_K_M

Si la commande répond success (ou équivalent selon votre version Ollama), le même type de modèle est prêt pour Docker et Home Assistant — détail des tags Q4/Q5 dans installer Ollama.

Sécurité

LM Studio écoute parfois une API locale si activée ; gardez le pare-feu actif et n’exposez pas le port sur Internet sans authentification.

Erreurs fréquentes (déchargement GPU)

Symptôme Piste
VRAM à 0 % malgré GPU Layers Pilote NVIDIA obsolète ou mauvais backend sélectionné
Qualité identique CPU/GPU Couches GPU trop basses — remontez par paliers de 8
Mac 16 Go unifiés saturés Fermez navigateur et apps ; testez un modèle 7B Q4 uniquement
Modèle introuvable après Discover Vérifiez le dossier modèles LM Studio ; croisez SSD

Pour aller plus loin

LM Studio ou Ollama : tableau de décision (unique)

Situation / besoin LM Studio Ollama Suite recommandée
Tester ou comparer des GGUF (chat visuel) oui — GPU Layers possible en CLI Noter le réglage stable, puis ollama pull équivalent
Réglage fin du déchargement GPU oui déchargement partiel selon version Garder LM Studio pour la calibration VRAM
Moins de terminal au départ interface guidée (Discover, Chat) CLI + intégrations à parcourir Installer LM Studio puis Ollama
API locale stable (scripts, Docker) limité oui Docker Ollama + Open WebUI
Chat navigateur pour toute la famille via Ollama oui + Open WebUI LM Studio reste utile pour tests ponctuels
Domotique ou workflows non adapté seul oui Home Assistant, n8n
Code avec aide IA (VS Code) calibrer VRAM d’abord API Ollama pour Continue Assistant code local Continue

En pratique : LM Studio pour calibrer GPU Layers sur une RTX ou un Mac, puis Ollama pour servir le même type de modèle à toute la maison. Mesurez la conso si la machine reste allumée (électricité).

Checklist première session (15–30 min)

  1. Installer LM Studio — guide débutant.
  2. Télécharger un 7B instruct Q4 via Discover (Découvrir, mini-glossaire).
  3. Régler GPU Layers par paliers de 8 jusqu’à la première erreur mémoire, puis reculer de 4.
  4. Noter le réglage stable dans un fichier texte (gpu-layers-mistral-7b.txt).
  5. Chercher l’équivalent sur Ollama et ollama pull pour Open WebUI.
  6. Si la tour chauffe le salon, comparer avec un mini-PC dédié au seul chat.

Cette checklist évite de rester bloqué dans LM Studio alors que votre objectif foyer est une API Ollama stable pour toute la famille. Besoin d’un rappel Ollama vs LM Studio ? Revenez au tableau de décision juste au-dessus.

Questions fréquentes

LM Studio ou Ollama pour un foyer ?

LM Studio excelle pour tester des modèles avec interface ; Ollama est plus adapté aux API, Docker et intégrations (Home Assistant, n8n).

Le GPU n’apparaît pas dans LM Studio

Mettez à jour les pilotes NVIDIA ou AMD ; sur Mac, vérifiez que le backend Metal est actif ; redémarrez LM Studio après install pilote.

Combien de couches GPU régler ?

Montez progressivement jusqu’à saturation de VRAM puis reculez de 4 couches si crash ou génération qui s’arrête — comme dans la procédure pas à pas.

Sources

Affiner avec le sélecteur matériel