VRAM : quel modèle LLM local selon votre GPU

Par Emmanuel Sauvage · Publié le · Mis à jour le

Cette page peut contenir des liens partenaires Amazon : si vous achetez après un clic, le site peut percevoir une commission sans surcoût pour vous. Nos conseils restent indépendants. En savoir plus.

La VRAM (mémoire de la carte graphique) fixe en grande partie quel modèle vous pouvez charger entièrement sur GPU, à quelle vitesse vous obtenez des tokens, et si vous devez décharger une partie des calculs sur le CPU — plus lent, mais parfois le seul moyen de faire tenir un 13B sur une RTX 4060. Ce guide s’adresse aux foyers qui installent Ollama ou LM Studio sur un mini-PC, une tour ou un Mac : tableaux par palier 8 / 12 / 16 / 24 Go, lien avec la RAM système, et une section dédiée FLUX / ComfyUI quand le chat texte n’est plus le seul usage.

Lecture rapide

Vous arrivez pour… Suite à lire
Chat seul (Ollama, Open WebUI, LM Studio texte) Tableaux chat 8 / 12 / 16 Go — vous pouvez ignorer toute la section FLUX si vous ne générez pas d’images
Images FLUX / ComfyUI VRAM au-delà du chat — consommation distincte du chat LLM (images IA sans cloud)

Palier 24 Go et modèles denses 32B+ : annexe usage avancé (peu utile pour le seul chat familial).

Pour qui, combien de temps ?

Profil Prérequis Durée indic. Parcours
Débutant (premier modèle local) PC allumé, idéalement Ollama installé ~8 min Lecture rapide — chat seul + palier 8 Go
Intermédiaire (13B, code, contexte long) Chat local déjà testé ; sigles GGUF / Q4_K_M lus ci-dessous ~12 min Tableaux 12 / 16 Go + déchargement CPU
Images + texte sur une machine ComfyUI ou projet FLUX envisagé ~15 min D’abord chat, puis Images FLUX en second
Upgrade carte ou mini-PC Goulot VRAM identifié (lenteur ou OOM) ~5 min Mesurer → sélecteur matériel

VRAM, RAM et GGUF : trois pièces du puzzle

Un fichier GGUF quantifié (Q4_K_M, Q5_K_M…) occupe un certain nombre de gigaoctets sur disque. Une fois chargé :

  • une partie (idéalement tout le modèle) vit en VRAM si vous avez une GPU NVIDIA, AMD ou une iGPU compatible ;
  • le reste est déchargé sur le CPU et la RAM — Ollama gère cela automatiquement quand la VRAM manque ;
  • le contexte (historique de chat, documents RAG collés) consomme aussi de la mémoire en plus des poids du modèle.

Règle pratique : gardez 1–3 Go de marge VRAM pour le contexte, le driver et les pics. Si vous colmez à 100 %, vous risquez OOM (out of memory) ou bascule brutale sur CPU.

Quantification courante pour foyers :

Tag GGUF Taille disque ~7B Qualité Besoin mémoire (poids seuls)
Q4_K_M ~4,5 Go Bon compromis ~5–6 Go
Q5_K_M ~5,5 Go Un peu plus nuancé ~6–7 Go
Q8_0 ~7 Go Proche original ~8–9 Go

Pour affiner le premier téléchargement : choisir premier modèle.

Quel palier choisir en 30 secondes

Vous avez… Commencez par… Usage typique
Pas de GPU dédiée, 16–32 Go RAM 3B–7B Q4 sur CPU/iGPU Chat familial modeste
8 Go VRAM 7B–8B Q4_K_M Meilleur compromis chat Ollama
12 Go VRAM 13B Q4 ou 8B Q8 Continue code, marge contexte
16 Go+ VRAM 13B–32B Q4 Coding + début ComfyUI
Images FLUX dev souvent 16 Go VRAM (24 Go confort) Voir section ComfyUI ci-dessous

Tableau par palier VRAM (chat Ollama, indicatif oct. 2026)

Hypothèse : modèles type Llama 3.x / Mistral / Qwen instruct, usage chat familial, contexte modéré (4k–8k tokens). Ce ne sont pas des garanties — certains modèles 8B « gonflés » pèsent plus.

Avant les paliers — RTX 4060, 4070, 5070 Ti, 5090, RX 6600… sont des repères oct. 2026, pas une promesse de stock : la VRAM réelle (8, 12, 16 ou 24 Go) prime sur le nom sur la boîte. Vérifiez la fiche constructeur et le stock en boutique ; une même série se décline souvent en plusieurs capacités mémoire.

8 Go VRAM (RTX 4060 laptop, RTX 3070, RX 6600…)

Modèle visé Quantif. Entièrement GPU ? Commentaire
3B–4B Q4–Q8 Oui Très rapide, qualité modeste
7B–8B Q4_K_M Oui Meilleur compromis 8 Go
7B–8B Q5 / Q8 Parfois Contexte long → décharger sur CPU
13B Q4 Rarement Couches partielles CPU, latence ↑
32B+ — Non Irréaliste

Conseil foyer : restez sur 8B Q4 pour Open WebUI ; si vous montez en 13B, acceptez la lenteur ou upgrade GPU.

12 Go VRAM (RTX 4070, GeForce RTX 3060 12 Go, RX 7700 XT…)

Modèle Quantif. Commentaire
8B Q5–Q8 Confortable, marge contexte
13B Q4_K_M Réaliste entièrement GPU ou quasi
14B–16B Q4 Selon architecture exacte
32B Q3–Q4 Souvent partiel CPU

Bon équilibre prix/perf pour un mini-PC avec carte dédiée milieu de gamme — voir comparatif mini-PC.

16 Go VRAM (RTX 4080, 5070 Ti, RX 7800 XT…)

Modèle Quantif. Commentaire
13B–14B Q5–Q8 Chat exigeant, Continue (extension VS Code pour le code assisté par IA locale)
32B Q4_K_M Usage avancé possible
70B Q2–Q3 Expérimental, qualité variable

Les grands MoE (mixture of experts : plusieurs blocs internes, un seul actif par token) ne figurent pas ici : VRAM variable à l’exécution — voir uniquement l’annexe 24 Go.

Annexe — palier 24 Go VRAM (usage avancé)

Peu de foyers ont besoin de 24 Go pour le seul chat familial ; l’intérêt monte avec images FLUX dev, long contexte et modèles 32B+. Pour les MoE, mesurez au chargement (nvidia-smi ou équivalent) plutôt que d’extrapoler depuis une ligne « 13B Q4 » des tableaux chat.

Modèle Quantif. Commentaire
32B Q5–Q8 Proche « local premium »
70B Q4 Possible selon modèle exact
MoE grands Q4 VRAM réelle au chargement — usage expert

Cartes typiques : RTX 4090, 5090, RTX 6000 (repères oct. 2026, encadré boutique ci-dessus).

Décharger sur le CPU : comment ça se comporte

Quand la VRAM est insuffisante, Ollama (ou LM Studio) laisse certaines couches sur GPU et exécute le reste sur CPU avec la RAM système. En français on parle de décharger sur le CPU — évitez de confondre avec l’anglais « offload GPU » des docs US qui désignent parfois l’inverse (charger sur le GPU depuis le CPU).

Conséquences observables :

  • Premier token plus lent (pipeline hybride) ;
  • Débit (tokens/s) chute si la majorité des couches est CPU ;
  • Consommation : CPU à 100 %, ventilateurs mini-PC bruyants — croiser bruit et conso 24 h/24 ;
  • RAM système : 32 Go devient le minimum confortable si 8–12 Go VRAM et modèle 13B partiel ; voir RAM 32 vs 64 Go.

Le réglage num_gpu (CLI Ollama) force parfois le nombre de couches GPU — utile pour diagnostiquer, pas pour magie gratuitement plus de VRAM.

LM Studio expose des curseurs « GPU layers » : réglez d’abord ~80 % des couches sur GPU, lancez un chat test, puis montez ou baissez si la VRAM sature — tutoriel complet : Régler les couches GPU dans LM Studio.

Sans GPU dédiée : iGPU, Apple Silicon, CPU pur

Plateforme Mémoire unifiée / partagée Profil réaliste
Mac Mini M4 16 Go unifiée 8B confortable, 13B serré
Mac Mini M4 32 Go unifiée 13B–14B, usage mixte
Ryzen 7840HS / Core Ultra iGPU RAM partagée 7B–8B, modéré
NAS / N100 CPU only RAM seule 3B–7B lent

Page dédiée Apple : Mac Mini M4 IA locale. Pour PC sans carte : montez en RAM avant d’acheter une RTX.

VRAM et génération d’images (au-delà du chat)

Chat seul ? Restez sur les tableaux chat et choisir premier modèle — le bloc Images uniquement ci-dessous ne concerne que FLUX / ComfyUI (images IA sans cloud).

Images uniquement — FLUX et ComfyUI (déplier si vous générez des pixels)

Le chat texte et FLUX, SDXL ou Stable Diffusion n’ont pas les mêmes besoins VRAM qu’un 7B Ollama. ComfyUI enchaîne nœuds (modèle, CLIP, KSampler, upscale…) ; FLUX.1 dev est plus lourd que SD 1.5. Panorama foyer (vie privée, stack) : images IA sans cloud.

Ordres de grandeur 1024×1024, workflow simple, oct. 2026 :

Setup FLUX schnell FLUX dev SDXL
8 Go VRAM difficile / résolution ↓ impraticable OK avec optimisations
12 Go schnell OK, dev serré lent ou partiel CPU confortable
16 Go dev utilisable bon compromis foyer facile
24 Go confortable confortable + marge upscale trivial

Pistes si la VRAM sature : checkpoints fp8 / quantifiés, CPU offload du text encoder (ici = économiser VRAM, ≠ déchargement LLM), résolution 768 puis upscale, fermer Ollama avant ComfyUI. Pas à pas : ComfyUI FLUX local. GPU 8 Go : plutôt SD léger ou eGPU OCuLink qu’un FLUX dev quotidien. Ollama + ComfyUI sur le même PC : 32 Go RAM, une grosse charge GPU à la fois.

Comment mesurer avant d’acheter ou upgrader

  1. Sur la machine actuelle, ollama run le modèle cible ; sous Windows Performances → GPU, notez Dedicated GPU memory au plateau.
  2. Sous Linux : nvidia-smi pendant une génération.
  3. Si usage > 90 % VRAM, réduisez quantif, modèle, ou contexte.
  4. Testez une session ComfyUI FLUX si images prévues — le chat seul ne suffit pas comme test.

Résultat attendu : vous savez si votre palier actuel correspond au tableau 8 / 12 / 16 Go (ou s’il faut accepter du déchargement CPU), avant de comparer des cartes en ligne.

Sélecteur matériel : croiser VRAM, RAM et usages

Pourquoi après la mesure — Une recherche « RTX 4070 » sans VRAM mesurée mélange souvent 8 Go et 12 Go sur la même page marchande. Le sélecteur matériel croise votre usage (chat 7B, 13B, images occasionnelles), un budget indicatif et, optionnellement, le kWh du foyer pour estimer bruit et facture 24 h/24.

Méthode en trois clics (gratuit, sans compte obligatoire) :

  1. Reprenez la VRAM mesurée ou le palier retenu dans les tableaux ci-dessus.
  2. Cochez les usages réels (texte seul, code, images…) — le sélecteur exclut les profils incohérents avec RAM 32 vs 64 Go et stockage SSD.
  3. Lisez les profils suggérés comme une short-list à recouper avec choisir matériel IA ; aucune commande n’est imposée.

Affiliation : si vous passez ensuite par une recherche partenaire (section ci-dessous), c’est après ce tri — commission possible sans surcoût pour vous ; détail sur transparence affiliation (oct. 2026).

Multi-utilisateurs et contexte long

Open WebUI avec quatre comptes familiaux ne multiplie pas la VRAM par quatre : une seule inférence lourde à la fois sur une carte consumer. En revanche, un contexte de 32k tokens (collage de PDF scolaires) peut ajouter plusieurs gigaoctets temporaires. Si vous archivez des conversations longues, testez avec votre usage réel plutôt qu’un « bonjour » de démo. Pour documents sensibles, combinez modèle plus petit + résumés par chunks — voir RGPD IA locale.

Erreurs fréquentes

  • Confondre Go du modèle sur disque et besoin runtime (contexte + overhead).
  • Acheter 64 Go RAM mais garder 8 Go VRAM pour du 32B — le CPU devient le goulot.
  • Lancer FLUX dev sur RTX 4060 8 Go puis conclure « l’IA locale ne marche pas ».
  • Oublier que Docker + Open WebUI consomme aussi un peu de RAM/VRAM indirectement.

Liens matériel complémentaires

Logiciel après le matériel

Installer Ollama, Open WebUI débutant, ou stack Docker. Pour tester sans engagement : première IA en 15 minutes.

Recherche marchande (après mesure et sélecteur)

Ordre recommandé : (1) tester le modèle cible sur votre GPU actuel, (2) sélecteur matériel, (3) seulement ensuite comparer les fiches revendeur. Les liens ci-dessous ouvrent une recherche Amazon.fr indicative — commission partenaire possible sans surcoût pour vous ; prix, VRAM réelle et disponibilité restent à vérifier sur chaque fiche (transparence affiliation, oct. 2026).

Besoin VRAM (ce guide) Recherche indicative Rappel
8 Go — 7B–8B Q4 chat RTX 4060 sur Amazon.fr Cible le palier 8 Go ; confirmez 8 Go sur la fiche, pas seulement le nom « 4060 »
12 Go — 13B Q4 confortable RTX 4070 sur Amazon.fr Cible le palier 12 Go ; une carte 16 Go (ex. certaines variantes récentes) n’est pas interchangeable avec « 12 Go » dans les tableaux

Dimensions boîtier, alimentation et longueur de carte : à croiser avec GPU, iGPU, eGPU OCuLink avant commande.

Conclusion

8 Go : roi du 7B–8B chat. 12–16 Go : 13B et début d’images sérieuses. 24 Go (annexe) : 32B texte et FLUX dev raisonnable en ComfyUI. Dès que la VRAM manque, décharger sur le CPU sauve la config mais coûte en vitesse et en bruit — mieux vaut aligner modèle et carte. Pour images sans envoyer vos prompts chez un tiers, enchaînez images IA sans cloud et ComfyUI FLUX.

Indicatif oct. 2026 — vérifiez tags exacts et tailles sur la fiche du modèle avant achat GPU.

Questions fréquentes

8 Go de VRAM suffisent-ils pour le chat local ?

Souvent oui pour 7B–8B en Q4_K_M ; 13B devient serré et Ollama devra décharger une partie des couches sur le CPU, ce qui ralentit. Croisez le palier 8 Go du guide avec un test `ollama run` sur votre machine plutôt que cette seule réponse.

Comment connaître ma VRAM disponible ?

Gestionnaire des tâches Windows (GPU), Moniteur d’activité macOS, ou nvidia-smi / rocm-smi sous Linux.

Sans carte graphique dédiée, que se passe-t-il ?

Ollama utilise la RAM système et éventuellement l’iGPU ; visez des modèles plus petits et 32 Go RAM minimum pour un 7B confortable.

Sources

Affiner avec le sélecteur matériel