GPU, iGPU en eGPU via OCuLink voor een model thuis

Door Emmanuel Sauvage · Gepubliceerd · Bijgewerkt

Deze pagina kan Amazon-affiliatelinks bevatten. Een aankoop na een klik kan de site een commissie opleveren, zonder extra kosten voor jou. Het advies blijft onafhankelijk. Hoe affiliatie werkt.

Om taalmodellen met Ollama te draaien, begrenst de VRAM (het geheugen van de videokaart) vaak de grootte en de vloeiendheid van de modellen. Deze gids gaat vooral over gekwantiseerde tekstchat van 7B–13B (assistent, domotica, samenvattingen). Zware beelden (FLUX, ComfyUI) vragen een andere stack en vaak meer VRAM. De paden: ComfyUI en FLUX lokaal en beelden zonder cloud.

Thuis zijn er drie families: een toren plus een NVIDIA RTX, een mini-pc plus een eGPU via OCuLink (een snelle PCIe-connector voor een externe videokaart), of alleen de iGPU / NPU (grafisch deel in de processor, of een NPU, neural processing unit, een aparte neurale eenheid) voor lichte modellen. Deze gids vergelijkt zonder verzonnen benchmark. Leg het naast VRAM en modelgrootte en de mini-pc-vergelijking.

Wie past bij wat

  • Toren plus RTX: je wilt de ruimste VRAM-marge voor chat van 8B–13B, soms beeld, en je accepteert geluid en formaat.
  • Mini-pc plus eGPU via OCuLink: je hebt al een mini-pc met gecertificeerde OCuLink (geen gewone USB-C-hub) en je wilt een RTX zonder toren.
  • Alleen iGPU / NPU: geluid en de rekening gaan voor. Chat met 3B–7B Q4 is acceptabel, met een hogere wachttijd dan bij een RTX.

Tekstschema van de drie opties

[ATX-toren + voeding 650 W] ── PCIe x16 ── [RTX 4060/4070, 8–16 GB VRAM]
[Stille mini-pc] ── OCuLink 4i ── [eGPU-behuizing + voeding] ── [RTX]
[Mini-pc / laptop] ── gedeelde iGPU ── kleine modellen 3B–7B Q4

Vergelijkingstabel

Oplossing Typische VRAM Geluid in de woonkamer Indicatief hardwarebudget, oktober 2026 (plus stroom over 36 maanden) Ideaal voor
Toren + RTX 8–16 GB dedicated Middel tot hoog € 900–1.800 (pc + GPU) Intensief gezin, ComfyUI + FLUX
Mini-pc + eGPU via OCuLink Afhankelijk van de kaart Externe behuizing plus ventilatoren € 700 voor de mini-pc + € 300–500 voor behuizing + GPU Upgrade zonder toren
Alleen iGPU / NPU Gedeeld RAM Laag Inbegrepen in een Ryzen AI-mini-pc Chat 7B, ontdekken

CUDA en offload (NVIDIA): CUDA (Compute Unified Device Architecture) is de NVIDIA-softwarelaag die inferentie op een GeForce of RTX versnelt. Offload betekent dat een deel van de lagen van het model op de GPU wordt berekend (VRAM), en de rest op de CPU (RAM).

Optie 1 — toren en NVIDIA RTX

Voordelen: de beste prijs-prestatie voor GPU-inferentie, koeling die je in de hand hebt, en tweedehands is mogelijk. Nadelen: formaat, verbruik (stroombudget), en veiligheid met kinderen als de toren in de gezinskamer staat (voedingskabels, poorten aan de voorkant, een open behuizing).

Veiligheid in de woonkamer, met kinderen

  • Zet de toren vast of buiten het bereik van de jongsten. Verberg stekkerdozen.
  • Leg uit dat de „AI-server” niet hard uitgezet mag worden tijdens een lange generatie.
  • Kies een stille mini-pc als de machine in de kamer van een tiener staat. Zie geluid de klok rond.

Voeding en bekabeling

  • Reken op een voeding van 650 W of meer voor een RTX uit het middensegment, met marge.
  • Steek de 8-pins PCIe-kabel goed in. Vermijd niet-gecertificeerde SATA-adapters voor de GPU.
  • Een behuizing met luchtstroom van voor naar achter. Stof betekent oververhitting, en dat betekent vertraging.

Voorbeeld van een partnerzoekopdracht: NVIDIA RTX-kaarten op Amazon.nl. Controleer de actuele prijs (oktober 2026).

Let op USB-C. Een USB-C-hub, of een generiek „eGPU”-dock, levert niet de PCIe-bandbreedte van een gecertificeerde OCuLink-poort op het specificatieblad van de maker. Zonder gedocumenteerde OCuLink blijft GPU-inferentie onvoorspelbaar, of gewoon onbeschikbaar. Haal een Type-C-poort op de mini-pc niet door elkaar met OCuLink 4i of 8i.

OCuLink (een snelle PCIe-connector voor een eGPU) koppelt een compatibele mini-pc aan een eGPU-behuizing op netstroom. Je krijgt een RTX zonder toren, tegen de prijs van een eigen kabel en een behuizing die onder last vaak lawaai maakt.

Checklist:

  1. Een OCuLink 4i- of 8i-poort die op het specificatieblad van de mini-pc staat (Minisforum, sommige Beelink-modellen; controleer het blad van 2026).
  2. Een eGPU-behuizing met een voeding van minstens 550 W voor een RTX 4060 of 4070.
  3. Kabellengte, en een BIOS-firmware die bij is (de maker).
  4. Bijgewerkte NVIDIA-drivers. Zie hieronder NVIDIA-drivers voor Game Ready tegenover Studio.

Zoekopdracht naar een behuizing: eGPU-behuizing met OCuLink op Amazon.nl. Amazon-partnerlink. Controleer compatibiliteit en de actuele prijs (oktober 2026).

Optie 3 — de iGPU en de NPU

APU’s als Ryzen AI of Intel Core Ultra delen het systeem-RAM: een model van 7B Q4 kan zonder RTX draaien, trager dan met een dedicated kaart. Een goede keuze als geluid en de rekening zwaarder wegen dan snelheid. Om de verdeling tussen CPU en GPU op een klein model met de hand bij te stellen, vult LM Studio GPU-offload Ollama aan. Voor een eerste grafische installatie: LM Studio installeren.

Welke VRAM voor welk model?

Model dat je wilt Geadviseerde VRAM Link
3B–7B Q4 6–8 GB Eerste model
8B, comfortabel 8–12 GB Gezinsassistent
13B+ of beelden 12–16 GB+ Beelden zonder cloud

Software thuis

Kosten en geluid

Vergelijk de kosten over 3 jaar (Ollama tegenover ChatGPT) voordat je een nieuwe RTX koopt. Draait de machine ’s nachts, lees dan geluid en verbruik van een mini-pc de klok rond.

Opslag en RAM

Een GPU vervangt het RAM niet: houd minstens 32 GB voor een comfortabele 7B–8B (RAM 32 of 64). De gewichten blijven op een NVMe-SSD.

Veiligheid thuis

Zet Ollama niet open op internet. Zet het gasten-wifi apart. Maak een back-up van de modelschijven.

Verder lezen

Bijlage — upgradebeslissingen

Voordat je een behuizing of een kaart koopt, leg je de OCuLink-checklist (gecertificeerde poort, voeding van de behuizing, drivers) naast VRAM en modelgrootte en de mini-pc-vergelijking. Die twee gidsen behandelen „mini-pc al gekocht” en „welke VRAM voor welk GGUF”, zonder de hele hardwarematrix hier te herhalen.

Situatie Aanbevolen actie
Bestaande toren, krap budget Tweedehands RTX van 8 GB, test ollama run met een 7B Q4
Mini-pc in de woonkamer, te weinig VRAM Een eGPU alleen als het specificatieblad een gecertificeerde OCuLink-poort noemt
Alleen een laptop, geen vaste pc Oké voor proeven. Vermijd een server de klok rond. Kies een mini-pc voor de gezinsassistent

Korte herinneringen: een Mac mini heeft geen NVIDIA CUDA. Mac mini M4. Een NAS heeft doorgaans geen CUDA voor Ollama. Synology-NAS. Eén zware sessie tegelijk (Ollama of ComfyUI) op een kaart van 8 GB.

NVIDIA-drivers, kort

Tak Voor wie Voor Ollama thuis
Game Ready Games, frequente updates Past. Test ollama run opnieuw na een grote update
Studio Video en 3D Past ook. Kies de tak die je regelmatig bijhoudt

Download: NVIDIA. Geen van beide takken is „verplicht” voor een taalmodel thuis, zolang de driver recent is.

Snelle beslissing

  1. Krap budget, chat 7B → iGPU / mini-pc (vergelijking).
  2. Beelden plus chat → toren met RTX van 12 GB+ (beelden zonder cloud).
  3. Mini-pc al gekocht, te weinig VRAM → een eGPU alleen bij een gecertificeerde OCuLink-poort.
  4. Absolute stilte in de woonkamer → laat een gamingtoren staan. Kies een mini-pc en gekwantiseerde modellen.

Tweedehands en stapsgewijs uitbreiden

Veel huishoudens beginnen met een tweedehands RTX in een bestaande toren, voordat ze een stille mini-pc kopen voor gebruik de klok rond. Controleer de voeding, test LM Studio en daarna Ollama installeren, en schat de rekening (kWh-budget). Bouw je een eGPU, gebruik dan de OCuLink-checklist hierboven: een USB-C-hub vervangt OCuLink niet. De PCIe-bandbreedte is niet gelijkwaardig, vaak 4 tot 8 keer ongunstiger voor GPU-inferentie.

Vragen vóór de aankoop

Vraag Als ja Als nee
Regelmatig FLUX-beelden nodig? Mik op 12 GB+ VRAM (VRAM en modelgrootte) Chat 7B–8B: 8 GB kan volstaan in Q4
Machine zichtbaar in de woonkamer? Mini-pc of een goed geventileerde toren. Geluid de klok rond Een toren in een aparte werkkamer kan
Meerdere tieners tegelijk op Open WebUI? 32 GB systeem-RAM plus een bruikbare GPU. RAM 32 of 64 Eén 8B Q4 op een mini-pc van 32 GB volstaat vaak
Heb je al een Mac M4? Geen NVIDIA RTX. Mac mini M4 Blijf in het Apple-ecosysteem, of voeg een dedicated mini-pc met Linux of Windows toe

Softwarestack na de hardware

Als de kaart of de APU gekozen is, ga je in deze volgorde verder: een eerste AI in 15 minuten → Open WebUI voor beginners → privé-assistent voor het gezin. De GPU versnelt ook Whisper voor gesproken huiswerk. Start een groot Ollama-model en een ComfyUI-generatie niet tegelijk op een kaart van 8 GB: sluit de ene voordat je de andere opent.

Kader. Indicatieve banden van oktober 2026. LocAIhome heeft niet elke kaart in een lab getest. Controleer het specificatieblad van de maker vóór de aankoop.

Veelgestelde vragen

Is een RTX 4060 genoeg voor Ollama?

8 GB VRAM (videogeheugen) past goed bij gekwantiseerde modellen van 7B–8B. Mik op 12–16 GB voor grotere modellen of een lichtere kwantisatie.

Is OCuLink de moeite waard voor een mini-pc?

Ja, als de behuizing een gecertificeerde OCuLink-poort heeft en je een externe eGPU-behuizing accepteert met een eigen voeding. Controleer de compatibiliteit bij de maker.

Kun je volstaan met de iGPU?

Recente APU’s (Ryzen AI, Core Ultra) versnellen kleine GGUF-bestanden. Een dedicated RTX blijft efficiënter voor intensieve inferentie.

Vervangt een USB-C-dock OCuLink?

Nee, niet voor betrouwbare inferentie van een taalmodel. Alleen een gecertificeerde OCuLink-poort op het specificatieblad van de mini-pc levert de PCIe-verbinding die een eGPU verwacht. Een gewone USB-C-hub is niet genoeg.

Hoeveel geluid maakt een toren die de klok rond aan staat?

Vaak meer dan een mini-pc. Zie geluid en verbruik van een mini-pc als de machine in de woonkamer staat.

Bronnen

Verfijn het met de hardwarekiezer · Franse versie van deze rubriek