GPU, iGPU en eGPU via OCuLink voor een model thuis
Deze pagina kan Amazon-affiliatelinks bevatten. Een aankoop na een klik kan de site een commissie opleveren, zonder extra kosten voor jou. Het advies blijft onafhankelijk. Hoe affiliatie werkt.
Om taalmodellen met Ollama te draaien, begrenst de VRAM (het geheugen van de videokaart) vaak de grootte en de vloeiendheid van de modellen. Deze gids gaat vooral over gekwantiseerde tekstchat van 7B–13B (assistent, domotica, samenvattingen). Zware beelden (FLUX, ComfyUI) vragen een andere stack en vaak meer VRAM. De paden: ComfyUI en FLUX lokaal en beelden zonder cloud.
Thuis zijn er drie families: een toren plus een NVIDIA RTX, een mini-pc plus een eGPU via OCuLink (een snelle PCIe-connector voor een externe videokaart), of alleen de iGPU / NPU (grafisch deel in de processor, of een NPU, neural processing unit, een aparte neurale eenheid) voor lichte modellen. Deze gids vergelijkt zonder verzonnen benchmark. Leg het naast VRAM en modelgrootte en de mini-pc-vergelijking.
Wie past bij wat
- Toren plus RTX: je wilt de ruimste VRAM-marge voor chat van 8B–13B, soms beeld, en je accepteert geluid en formaat.
- Mini-pc plus eGPU via OCuLink: je hebt al een mini-pc met gecertificeerde OCuLink (geen gewone USB-C-hub) en je wilt een RTX zonder toren.
- Alleen iGPU / NPU: geluid en de rekening gaan voor. Chat met 3B–7B Q4 is acceptabel, met een hogere wachttijd dan bij een RTX.
Tekstschema van de drie opties
[ATX-toren + voeding 650 W] ── PCIe x16 ── [RTX 4060/4070, 8–16 GB VRAM]
[Stille mini-pc] ── OCuLink 4i ── [eGPU-behuizing + voeding] ── [RTX]
[Mini-pc / laptop] ── gedeelde iGPU ── kleine modellen 3B–7B Q4
Vergelijkingstabel
| Oplossing | Typische VRAM | Geluid in de woonkamer | Indicatief hardwarebudget, oktober 2026 (plus stroom over 36 maanden) | Ideaal voor |
|---|---|---|---|---|
| Toren + RTX | 8–16 GB dedicated | Middel tot hoog | € 900–1.800 (pc + GPU) | Intensief gezin, ComfyUI + FLUX |
| Mini-pc + eGPU via OCuLink | Afhankelijk van de kaart | Externe behuizing plus ventilatoren | € 700 voor de mini-pc + € 300–500 voor behuizing + GPU | Upgrade zonder toren |
| Alleen iGPU / NPU | Gedeeld RAM | Laag | Inbegrepen in een Ryzen AI-mini-pc | Chat 7B, ontdekken |
CUDA en offload (NVIDIA): CUDA (Compute Unified Device Architecture) is de NVIDIA-softwarelaag die inferentie op een GeForce of RTX versnelt. Offload betekent dat een deel van de lagen van het model op de GPU wordt berekend (VRAM), en de rest op de CPU (RAM).
Optie 1 — toren en NVIDIA RTX
Voordelen: de beste prijs-prestatie voor GPU-inferentie, koeling die je in de hand hebt, en tweedehands is mogelijk. Nadelen: formaat, verbruik (stroombudget), en veiligheid met kinderen als de toren in de gezinskamer staat (voedingskabels, poorten aan de voorkant, een open behuizing).
Veiligheid in de woonkamer, met kinderen
- Zet de toren vast of buiten het bereik van de jongsten. Verberg stekkerdozen.
- Leg uit dat de „AI-server” niet hard uitgezet mag worden tijdens een lange generatie.
- Kies een stille mini-pc als de machine in de kamer van een tiener staat. Zie geluid de klok rond.
Voeding en bekabeling
- Reken op een voeding van 650 W of meer voor een RTX uit het middensegment, met marge.
- Steek de 8-pins PCIe-kabel goed in. Vermijd niet-gecertificeerde SATA-adapters voor de GPU.
- Een behuizing met luchtstroom van voor naar achter. Stof betekent oververhitting, en dat betekent vertraging.
Voorbeeld van een partnerzoekopdracht: NVIDIA RTX-kaarten op Amazon.nl. Controleer de actuele prijs (oktober 2026).
Optie 2 — mini-pc en eGPU via OCuLink
Let op USB-C. Een USB-C-hub, of een generiek „eGPU”-dock, levert niet de PCIe-bandbreedte van een gecertificeerde OCuLink-poort op het specificatieblad van de maker. Zonder gedocumenteerde OCuLink blijft GPU-inferentie onvoorspelbaar, of gewoon onbeschikbaar. Haal een Type-C-poort op de mini-pc niet door elkaar met OCuLink 4i of 8i.
OCuLink (een snelle PCIe-connector voor een eGPU) koppelt een compatibele mini-pc aan een eGPU-behuizing op netstroom. Je krijgt een RTX zonder toren, tegen de prijs van een eigen kabel en een behuizing die onder last vaak lawaai maakt.
Checklist:
- Een OCuLink 4i- of 8i-poort die op het specificatieblad van de mini-pc staat (Minisforum, sommige Beelink-modellen; controleer het blad van 2026).
- Een eGPU-behuizing met een voeding van minstens 550 W voor een RTX 4060 of 4070.
- Kabellengte, en een BIOS-firmware die bij is (de maker).
- Bijgewerkte NVIDIA-drivers. Zie hieronder NVIDIA-drivers voor Game Ready tegenover Studio.
Zoekopdracht naar een behuizing: eGPU-behuizing met OCuLink op Amazon.nl. Amazon-partnerlink. Controleer compatibiliteit en de actuele prijs (oktober 2026).
Optie 3 — de iGPU en de NPU
APU’s als Ryzen AI of Intel Core Ultra delen het systeem-RAM: een model van 7B Q4 kan zonder RTX draaien, trager dan met een dedicated kaart. Een goede keuze als geluid en de rekening zwaarder wegen dan snelheid. Om de verdeling tussen CPU en GPU op een klein model met de hand bij te stellen, vult LM Studio GPU-offload Ollama aan. Voor een eerste grafische installatie: LM Studio installeren.
Welke VRAM voor welk model?
| Model dat je wilt | Geadviseerde VRAM | Link |
|---|---|---|
| 3B–7B Q4 | 6–8 GB | Eerste model |
| 8B, comfortabel | 8–12 GB | Gezinsassistent |
| 13B+ of beelden | 12–16 GB+ | Beelden zonder cloud |
Software thuis
- Ollama installeren herkent CUDA op NVIDIA.
- Open WebUI voor de interface van het gezin.
- Whisper profiteert ook van de GPU.
Kosten en geluid
Vergelijk de kosten over 3 jaar (Ollama tegenover ChatGPT) voordat je een nieuwe RTX koopt. Draait de machine ’s nachts, lees dan geluid en verbruik van een mini-pc de klok rond.
Opslag en RAM
Een GPU vervangt het RAM niet: houd minstens 32 GB voor een comfortabele 7B–8B (RAM 32 of 64). De gewichten blijven op een NVMe-SSD.
Veiligheid thuis
Zet Ollama niet open op internet. Zet het gasten-wifi apart. Maak een back-up van de modelschijven.
Verder lezen
- Hardware kiezen voor AIGebruik, RAM en GPU op een rij vóór de aankoop.
- Mac mini M4Geünificeerd geheugen, zonder dedicated RTX.
- VRAM en modellenGGUF-grootte en CPU-lagen afstemmen.
- HardwarekiezerBudget, geluid en GPU-profiel.
Bijlage — upgradebeslissingen
Voordat je een behuizing of een kaart koopt, leg je de OCuLink-checklist (gecertificeerde poort, voeding van de behuizing, drivers) naast VRAM en modelgrootte en de mini-pc-vergelijking. Die twee gidsen behandelen „mini-pc al gekocht” en „welke VRAM voor welk GGUF”, zonder de hele hardwarematrix hier te herhalen.
| Situatie | Aanbevolen actie |
|---|---|
| Bestaande toren, krap budget | Tweedehands RTX van 8 GB, test ollama run met een 7B Q4 |
| Mini-pc in de woonkamer, te weinig VRAM | Een eGPU alleen als het specificatieblad een gecertificeerde OCuLink-poort noemt |
| Alleen een laptop, geen vaste pc | Oké voor proeven. Vermijd een server de klok rond. Kies een mini-pc voor de gezinsassistent |
Korte herinneringen: een Mac mini heeft geen NVIDIA CUDA. Mac mini M4. Een NAS heeft doorgaans geen CUDA voor Ollama. Synology-NAS. Eén zware sessie tegelijk (Ollama of ComfyUI) op een kaart van 8 GB.
NVIDIA-drivers, kort
| Tak | Voor wie | Voor Ollama thuis |
|---|---|---|
| Game Ready | Games, frequente updates | Past. Test ollama run opnieuw na een grote update |
| Studio | Video en 3D | Past ook. Kies de tak die je regelmatig bijhoudt |
Download: NVIDIA. Geen van beide takken is „verplicht” voor een taalmodel thuis, zolang de driver recent is.
Snelle beslissing
- Krap budget, chat 7B → iGPU / mini-pc (vergelijking).
- Beelden plus chat → toren met RTX van 12 GB+ (beelden zonder cloud).
- Mini-pc al gekocht, te weinig VRAM → een eGPU alleen bij een gecertificeerde OCuLink-poort.
- Absolute stilte in de woonkamer → laat een gamingtoren staan. Kies een mini-pc en gekwantiseerde modellen.
Tweedehands en stapsgewijs uitbreiden
Veel huishoudens beginnen met een tweedehands RTX in een bestaande toren, voordat ze een stille mini-pc kopen voor gebruik de klok rond. Controleer de voeding, test LM Studio en daarna Ollama installeren, en schat de rekening (kWh-budget). Bouw je een eGPU, gebruik dan de OCuLink-checklist hierboven: een USB-C-hub vervangt OCuLink niet. De PCIe-bandbreedte is niet gelijkwaardig, vaak 4 tot 8 keer ongunstiger voor GPU-inferentie.
Vragen vóór de aankoop
| Vraag | Als ja | Als nee |
|---|---|---|
| Regelmatig FLUX-beelden nodig? | Mik op 12 GB+ VRAM (VRAM en modelgrootte) | Chat 7B–8B: 8 GB kan volstaan in Q4 |
| Machine zichtbaar in de woonkamer? | Mini-pc of een goed geventileerde toren. Geluid de klok rond | Een toren in een aparte werkkamer kan |
| Meerdere tieners tegelijk op Open WebUI? | 32 GB systeem-RAM plus een bruikbare GPU. RAM 32 of 64 | Eén 8B Q4 op een mini-pc van 32 GB volstaat vaak |
| Heb je al een Mac M4? | Geen NVIDIA RTX. Mac mini M4 | Blijf in het Apple-ecosysteem, of voeg een dedicated mini-pc met Linux of Windows toe |
Softwarestack na de hardware
Als de kaart of de APU gekozen is, ga je in deze volgorde verder: een eerste AI in 15 minuten → Open WebUI voor beginners → privé-assistent voor het gezin. De GPU versnelt ook Whisper voor gesproken huiswerk. Start een groot Ollama-model en een ComfyUI-generatie niet tegelijk op een kaart van 8 GB: sluit de ene voordat je de andere opent.
Kader. Indicatieve banden van oktober 2026. LocAIhome heeft niet elke kaart in een lab getest. Controleer het specificatieblad van de maker vóór de aankoop.
Veelgestelde vragen
Is een RTX 4060 genoeg voor Ollama?
8 GB VRAM (videogeheugen) past goed bij gekwantiseerde modellen van 7B–8B. Mik op 12–16 GB voor grotere modellen of een lichtere kwantisatie.
Is OCuLink de moeite waard voor een mini-pc?
Ja, als de behuizing een gecertificeerde OCuLink-poort heeft en je een externe eGPU-behuizing accepteert met een eigen voeding. Controleer de compatibiliteit bij de maker.
Kun je volstaan met de iGPU?
Recente APU’s (Ryzen AI, Core Ultra) versnellen kleine GGUF-bestanden. Een dedicated RTX blijft efficiënter voor intensieve inferentie.
Vervangt een USB-C-dock OCuLink?
Nee, niet voor betrouwbare inferentie van een taalmodel. Alleen een gecertificeerde OCuLink-poort op het specificatieblad van de mini-pc levert de PCIe-verbinding die een eGPU verwacht. Een gewone USB-C-hub is niet genoeg.
Hoeveel geluid maakt een toren die de klok rond aan staat?
Vaak meer dan een mini-pc. Zie geluid en verbruik van een mini-pc als de machine in de woonkamer staat.
Bronnen
Verfijn het met de hardwarekiezer · Franse versie van deze rubriek