Je eerste lokale AI in 15 minuten

Door Emmanuel Sauvage · Gepubliceerd · Bijgewerkt

Deze pagina kan Amazon-affiliatelinks bevatten. Een aankoop na een klik kan de site een commissie opleveren, zonder extra kosten voor jou. Het advies blijft onafhankelijk. Hoe affiliatie werkt.

Een LLM (large language model, een groot taalmodel) voorspelt het volgende woord op basis van je opdracht en schrijft van daaruit verder. Ollama is een gratis programma dat die modellen downloadt en op je eigen machine draait. Zolang je de dienst niet op internet zet, blijft het gesprek thuis. De bestanden staan vaak in GGUF, een gecomprimeerde vorm (kwantisatie zoals Q4 of Q5) die minder schijfruimte en minder RAM vraagt. VRAM is het geheugen op de grafische kaart. Past een deel van het model daarin, dan worden de antwoorden een stuk vloeiender.

Dit stappenplan mikt op een concreet resultaat in 12 tot 17 minuten, inclusief de download van het model (ongeveer 2 GB): Ollama staat erop, een klein model komt uit de officiële bibliotheek, en je hebt een eerste gesprek in de terminal. De “15 minuten” in de titel is de gangbare tijd op glasvezel. Reken op een minuut of 17 als de download trager is. De stappen hieronder zijn geschreven voor Windows en PowerShell. De gewone Ollama-installatie vraagt geen beheerdersrechten. Op Mac of Linux werken dezelfde ollama-opdrachten nadat je hebt geïnstalleerd vanaf ollama.com/download. De verschillen staan in de gids voor meerdere besturingssystemen.

Voor een uitgebreidere Windows-installatie (GPU-stuurprogramma’s, waar de bestanden terechtkomen) ga je verder met Ollama installeren op Windows.

Welke pagina lees je?

Doel Pagina Ruwe tijd
Een eerste geslaagde ronde op de klok, Windows Deze gids 12–17 min
Windows, stap voor stap (GPU, PATH, storingen) Ollama installeren op Windows ~25 min
Mac, Linux of meer dan één systeem Ollama op elk systeem ~20–30 min

Hardware tijdens de timer: je rondt dit af op de pc die je al hebt. Links naar hardware en partnerlinks komen na de samenvatting, als de Ollama-test gelukt is.

Voor wie

Jij Wat je eraan hebt Wat je nodig hebt
Nieuwsgierig, en nog niet van plan iets te kopen Bewijs dat lokale AI draait op de pc in de woonkamer 64-bits Windows, 16 GB RAM, internet
Een huishouden dat later een prettiger scherm wil Een eerste succes in de terminal, vóór Open WebUI Dezelfde basis, plus een minuut of 20 tijd
Al een Mac of Linux Dezelfde ollama-opdrachten na de installatie. Deze pagina werkt Windows uit Zie Ollama op elk systeem

Controletabel (aan het eind)

Gebruik deze tabel aan het eind van stap 4, zodat je de timer kunt afvinken zonder de hele pagina opnieuw te lezen.

Controle Wat je wilt zien
Ollama draait ollama –version toont een versienummer in de console
Model binnen De tag llama3.2:3b staat in ollama list
Eerste chat Minstens één vraag en antwoord via ollama run
Kwaliteit van het antwoord Geen fout “out of memory”. De geplakte opdracht vraagt om Nederlands: minstens drie samenhangende Nederlandse zinnen die lokaal draaien noemen en een voordeel voor privacy of gegevens. Hallucinaties blijven mogelijk: het model verzint soms feiten. Deze test controleert de installatie, geen juridisch of medisch advies.
Totale tijd 12–17 min, afhankelijk van de downloadsnelheid (model ongeveer 2 GB)

Minimale eisen (niets nieuws kopen)

  • Windows 10 of 11 64-bits (de standaardinstallatie van Ollama, in je gebruikersmap, vraagt geen beheerdersrechten).
  • 16 GB RAM of meer, en 20 GB vrij op een snelle schijf (liefst een SSD).
  • Internet voor de eenmalige download van Ollama en het model.
  • Antivirus of een bedrijfsfirewall: reken op een uitzondering als het installatieprogramma wordt geblokkeerd.

Twijfel je na deze test over de grootte van het model, dan legt een eerste model kiezen RAM, VRAM en gebruik naast elkaar.

De timer in één oogopslag

Fase Ruwe duur Totaal
PowerShell en controles 2 min 2 min
Ollama-installatieprogramma 3 min 5 min
Model downloaden (stap 3) 5–10 min 10–15 min
Eerste chat (stap 4) 2 min 12–17 min
Storingen lezen (alleen als het nodig is) +5 min buiten de timer

Zet een timer als je jezelf wilt uitdagen. De flessenhals is bijna altijd de download van het model.

Fouten die je voorbij de 15 minuten duwen

Fout Gevolg Oplossing
ollama -- version kopiëren, mét spatie Opdracht niet gevonden Gebruik het blok text van stap 2: ollama --version
Modeltag met spaties (llama3. 2 :3b) pull mislukt Kopieer uit de blokken text van stap 3 en 4, aaneengesloten tag llama3.2:3b
Ollama dicht tijdens de pull connection refused Start Ollama opnieuw vanuit het Startmenu en wacht op het pictogram bij de klok
Console open vóór de installatie en nooit opnieuw geopend PATH niet bijgewerkt Sluit PowerShell en open een nieuw venster (een gewone sessie is genoeg) tot ollama --version antwoordt

Stap 1 — PowerShell en controles (~2 min)

  1. Klik met de rechtermuisknop op Start → Terminal of Windows PowerShell (gewone sessie, zonder “Als administrator uitvoeren”).
  2. Controleer de architectuur:
[Environment]::Is64BitOperatingSystem

De uitvoer moet True zijn. Bij False geldt deze gids voor 64-bits Windows niet.

  1. Optioneel: kijk of er genoeg RAM zichtbaar is:
(Get-CimInstance Win32_ComputerSystem).TotalPhysicalMemory / 1GB

Een waarde van 15 of hoger is ruim voor een 3B. Onder 12 kies je na het lezen van 32 of 64 GB RAM voor LLM’s een nog kleiner model, als je toch aan een upgrade denkt.

Heb je de beheerder nodig? Niet voor de standaardinstallatie. Volgens de officiële Ollama-documentatie voor Windows installeert OllamaSetup.exe zich in het gebruikersprofiel zonder beheerdersrechten. Een gewone PowerShell-sessie is genoeg voor deze gids. Ollama als Windows-service draaien (bijvoorbeeld via het losse archief en een hulpmiddel als NSSM) is een aparte configuratie, handig voor gevorderd gebruik, en die kan beheerdersrechten vragen. Deze gids beschrijft die service-installatie niet.

Stap 2 — Ollama installeren (~3 min)

  1. Open in de browser ollama.com/download (zie ook de officiële Ollama-documentatie).
  2. Download Ollama for Windows en start het .exe-bestand.
  3. Volg de wizard (de standaardlocatie is een goede keuze).
  4. Controleer daarna het pictogram Ollama bij de klok. Ontbreekt het, open Ollama dan vanuit het Startmenu.
  5. Sluit het PowerShell-venster en open een nieuw venster (gewone sessie), zodat de opdracht ollama herkend wordt (PATH wordt dan ververst).

Snelle test (kopieer de hele regel, zonder spatie in de tag):

ollama --version

Er verschijnt een versienummer. Gebeurt dat niet, herstart de pc dan één keer voor je verder zoekt.

Standaardinstallatie tegenover een Windows-service. De gewone installatie (stap 2) gebeurt zonder beheerdersrechten, in je gebruikersmap, zoals de officiële documentatie beschrijft. Zodra ollama --version antwoordt in een nieuwe console (PATH ververst), lopen stap 3 en 4 door in dezelfde gewone Windows-terminal. Alleen de Ollama-app (het pictogram bij de klok) moet aan blijven. Ollama als Windows-service installeren is een aparte configuratie, en die kan beheerdersrechten vragen. Die valt buiten dit kwartier.

Stap 3 — Het model downloaden (~5–10 min)

Open PowerShell (gewone sessie, zie het kader hierboven) en voer uit:

ollama pull llama3.2:3b

Plak één hele regel. De tag is llama3.2:3b (een punt tussen 3 en 2, een dubbele punt vóór 3b, geen spatie).

Je ziet voortgangsbalken per laag. Op 100 procent vraag je de lijst op:

ollama list

De kolom NAME moet llama3.2:3b bevatten. Dit model is een leerzaam compromis: licht genoeg voor een eerste succes, sterk genoeg voor alledaags Nederlands. Om later andere formaten te vergelijken, zie VRAM en modelgrootte.

Opslag: de gewichten stapelen zich op de systeemschijf. Kom je ruimte tekort, lees dan SSD-opslag voor LLM-modellen voor je tientallen gigabytes opstapelt.

Stap 4 — Eerste chat in het Nederlands (~2 min)

Start:

ollama run llama3.2:3b

Dezelfde tag als in stap 3. Kopieer hem uit het blok text hierboven, niet van een schermafbeelding.

Na het laden (10–40 seconden, afhankelijk van CPU of GPU) verschijnt de prompt >>>.

Testopdracht (kopiëren en plakken)

Je bent een beknopte assistent. Leg in maximaal drie zinnen uit wat lokale AI thuis is, en noem één voordeel voor je privacy. Antwoord in het Nederlands.

De vorm van een goed antwoord (niet woord voor woord)

Controleer de regel Kwaliteit van het antwoord in de controletabel. Een kort voorbeeld van de vorm:

Lokale AI draait op je eigen pc: je gesprek blijft thuis zolang je de dienst niet op internet zet.
Een typisch voordeel: meer grip op de vertrouwelijkheid van kladjes of vragen van het gezin.

Om na deze test andere modelgroottes te vergelijken: een eerste model kiezen.

Om de interactieve sessie te verlaten:

/bye

Stap 5 — Kijken of de GPU meedoet (optioneel, ~1 min)

Open Taakbeheer → tabblad Prestaties → GPU. Start ollama run opnieuw met dezelfde tag als in stap 4 en stel een lange vraag. Op een pc met NVIDIA en recente stuurprogramma’s kan het GPU-gebruik stijgen. Op alleen de CPU stijgt alleen de processorbelasting: de gids werkt dan ook, alleen trager.

Een webpagina voor het huishouden (buiten de 15 minuten)

Wil je een chat in de browser voor thuis, volg dan Open WebUI voor beginners zodra Ollama stabiel is. Ken je containers al, dan kun je ook de stack Docker, Ollama en Open WebUI opzetten.

Om modellen uit te proberen met een grafische interface, zonder opdrachtregel, blijft LM Studio installeren een aanvulling. Ollama past beter bij een API in huis en bij Home Assistant en Ollama. LM Studio past beter bij het visueel uitproberen van GGUF.

Snel iets rechtzetten

Verschijnsel Richting
ollama niet gevonden Open een nieuw PowerShell-venster (gewone sessie) of herstart. Controleer of de Ollama-app draait (pictogram bij de klok)
ollama --version faalt Start Ollama opnieuw vanuit het Startmenu en test opnieuw met de opdracht in het blok text hierboven
connection refused bij pull Start Ollama opnieuw vanuit het Startmenu
Download erg traag Glasvezel vol of zwak wifi. Laat hem uitlopen of probeer het later opnieuw
Antwoord extreem traag Normaal op de CPU met een 3B. Sluit zware programma’s
Geheugenfout Model te groot voor het RAM. Blijf op 3B of zie een eerste model kiezen
Antivirus blokkeert het exe-bestand Tijdelijke uitzondering voor de Ollama-installatiemap

Zet de Ollama-poort niet open op je router zonder authenticatie. Voor rustig gezinsgebruik lees je privacy als AI thuis blijft voor je gevoelige documenten in een webinterface stopt.

Voorbij de 15 minuten?

Mooi: je hebt laten zien dat lokale AI niet alleen voor experts is. Logische vervolgstappen:

  1. Het model aanscherpen (een eerste model kiezen).
  2. Prettiger in gebruik (Open WebUI).
  3. Een concreet gebruik (privéassistent voor het gezin, transcriptie met Whisper).

Veiligheid en gewoontes

  • Houd Windows en de GPU-stuurprogramma’s van NVIDIA, AMD en Intel bij.
  • Zet je Ollama-instantie niet op internet zonder wachtwoord en HTTPS.
  • Behandel antwoorden van het model als kladjes. Controleer feiten bij gezondheid, geld of officiële zaken.

Samenvatting

In 12 tot 17 minuten, afhankelijk van de downloadsnelheid, installeer je Ollama in PowerShell (zonder beheerdersrechten), haal je de tag llama3.2:3b binnen, controleer je een Nederlandse opdracht en vink je de controletabel af. De pc die je al hebt was genoeg. Het volgende stuk is voor wie na dat bewijs iets wil kopen.

Later: hardware en de kiezer (buiten de timer)

Dit pad blijft haalbaar op de pc die je al hebt. Antwoordt de 3B, maar wil je een stap groter, meet dan een week echt gebruik (wachttijd, schijf, aantal gebruikers) voor je koopt.

Werkwijze van de hardwarekiezer van LocAIhome: je vult een indicatief budget in, de modellen die je op het oog hebt en het kWh-tarief thuis. De tool stelt hardwareprofielen voor die passen bij VRAM, SSD-opslag en de vergelijking van mini-pc’s, zonder de hardwaregids te vervangen. Kopen hoeft niet. Het is een filter nadat je Ollama hebt getest.

Hardwaresignalen na een week gebruik
Wat je ziet Richting
Wachttijd langer dan 1 minuut per kort antwoord VRAM en modelgrootte
Schijf bijna vol na 2–3 modellen SSD voor LLM-modellen
Gedeelde machine, meerdere gebruikers Hardware kiezen voor AI thuis

Prijsbanden en voorraad van oktober 2026: controleer altijd de prijs van de dag bij de winkel. Een brede voorbeeldzoekopdracht op Amazon.nl: mini-pc’s en 32 GB RAM voor een LLM (Amazon-partnerlink — hoe affiliatie werkt).

Veelgestelde vragen

Waarom llama3.2:3b en niet een 7B-model in deze gids?

De 3B past op de meeste recente pc’s met 16 GB RAM, is op glasvezel in een paar minuten binnen en antwoordt op de CPU snel genoeg om de installatie te bewijzen zonder een uur te wachten.

Moet Ollama open blijven na het installatieprogramma?

Ja. Een service of een pictogram bij de klok houdt de motor aan. Faalt ollama pull met “connection refused”, start Ollama dan opnieuw vanuit het Startmenu en probeer het nog eens.

Kan ik deze gids op een Mac of op Linux volgen?

Ja. Dezelfde ollama-opdrachten werken in een terminal nadat je installeert vanaf ollama.com. Deze pagina werkt Windows en PowerShell uit (de standaardinstallatie vraagt geen beheerdersrechten). Op Mac of Linux staan de verschillen in de gids voor meerdere besturingssystemen.

Gaat mijn gesprek naar internet?

Het gesprek zelf blijft op je pc: de berekening draait lokaal. Internet gebruik je alleen voor de eerste download van Ollama en het model, tenzij je de dienst later zelf op het netwerk zet.

Bronnen

Verfijn het met de hardwarekiezer · Franse versie van deze rubriek