Docker: Ollama en Open WebUI samen
Deze pagina kan Amazon-affiliatelinks bevatten. Een aankoop na een klik kan de site een commissie opleveren, zonder extra kosten voor jou. Het advies blijft onafhankelijk. Hoe affiliatie werkt.
Docker (een containermotor: programma’s in herhaalbare, afgesloten dozen) kan Ollama (een motor voor grote taalmodellen, LLM’s) en Open WebUI (een chatinterface in de browser) starten met dezelfde configuratie op een mini-pc, een x86-NAS of een Linux-pc. Dat is handig voor een assistent voor het gezin, n8n of Home Assistant op dezelfde host.
Docker of een native installatie? Begin je en heb je Ollama nog nooit gestart, start dan met Ollama installeren zonder Docker of de Windows-gids stap voor stap. Er zijn minder lagen om uit te zoeken. Kom terug naar deze pagina als je een herhaalbare stack wilt (hetzelfde
compose.ymlop twee machines) of een x86-NAS. Uitgebreide vereisten: Ollama op een Synology-NAS.
Voor wie, en hoe lang het duurt
| Voor wie | Ruwe duur | Voor je begint |
|---|---|---|
| Iemand met gemiddelde ervaring (Docker staat er al) | ongeveer 45 min | Docker-engine, en een idee van LAN-poorten |
| Een beginner zonder containers | Open WebUI voor beginners of native Ollama is een betere start | — |
| Een huishouden met meerdere apparaten (een tablet, een mini-pc die aan blijft) | +15 min voor de LAN-instellingen | 32 GB RAM is een goed doel |
Werkwijze: kopieer eerst de minimale versie (CPU, of de GPU voeg je daarna toe), start met docker compose up -d, haal een 7B-model op en open daarna Open WebUI. Heb je een NVIDIA-kaart onder Linux, vervang het bestand dan door de GPU-variant voor de eerste up. Loop je vast, dan dekt de tabel veelvoorkomende fixes een 502 en ontbrekende modellen. De LAN-fixes gaan alleen over toegang vanaf wifi.
Hoe de diensten en poorten in elkaar zitten
Browser (LAN) ──► Open WebUI :8080 ──► interne HTTP ──► Ollama :11434
│ │
chatvolume volume met GGUF-modellen
Toelichting: vanaf een browser op de host-pc is localhost:8080 genoeg. Vanaf een tablet gebruik je het LAN-IP van de mini-pc (http://192.168.x.x:8080). Tussen containers roept Open WebUI http://ollama:11434 aan. Vanuit de webcontainer is dat niet localhost.
- 11434: de Ollama-API (alleen LAN of localhost; laat hem van het publieke internet af).
- 8080: de interface van Open WebUI (je maakt bij de eerste start een admin-account).
- De twee containers delen een Docker-netwerk. Open WebUI roept
http://ollama:11434aan, en vanuit de webcontainer is dat nietlocalhost.
Vereisten
-
Docker Engine of Docker Desktop is geïnstalleerd.
-
Linux en een NVIDIA-GPU: de NVIDIA Container Toolkit staat op de host.
-
Windows: Docker Desktop, WSL2, en recente NVIDIA-drivers als je GPU-versnelling wilt.
-
Minimaal 16 GB RAM, 32 GB aanbevolen — 32 of 64 GB RAM.
-
Een x86-NAS (Synology of QNAP met Docker): controleer RAM en CPU voor je Ollama en Open WebUI op elkaar stapelt — Ollama op een Synology-NAS.
-
Een SSD voor de modelvolumes — opslag voor LLM’s.
Een pad zonder Docker: Ollama installeren en daarna Open WebUI voor beginners.
Minimale compose.yml
Maak een map stack-ia en een bestand compose.yml. Dit blok is de CPU-versie, of een host-GPU zonder het NVIDIA-blok (ongeveer 25 regels). Plak het zoals het er staat. Ben je nieuw met Compose, lees dan alleen OLLAMA_BASE_URL, de poorten en de volumes nog een keer.
services:
ollama:
image: ollama/ollama:latest
container_name: ollama
restart: unless-stopped
volumes:
- ollama_data:/root/.ollama
ports:
- "11434:11434"
open-webui:
image: ghcr.io/open-webui/open-webui:main
container_name: open-webui
restart: unless-stopped
ports:
- "8080:8080"
environment:
- OLLAMA_BASE_URL=http://ollama:11434
volumes:
- openwebui_data:/app/backend/data
depends_on:
- ollama
volumes:
ollama_data:
openwebui_data:
Het benoemde volume ollama_data bewaart GGUF-modellen (een gekwantiseerd formaat voor lokale inferentie) ook na een herstart. NVIDIA-GPU onder Linux: zet geen commentaar in dit bestand. Vervang het door de GPU-variant (het volledige stuk deploy.resources) nadat de NVIDIA Container Toolkit erop staat.
NVIDIA-GPU-variant
Vervang de hele compose.yml door dit blok als Ollama de GPU in de container moet zien (Linux, met de toolkit geïnstalleerd). Gebruik dit bestand in plaats van het minimale. Zet ze niet allebei tegelijk op dezelfde machine.
services:
ollama:
image: ollama/ollama:latest
container_name: ollama
restart: unless-stopped
volumes:
- ollama_data:/root/.ollama
ports:
- "11434:11434"
deploy:
resources:
reservations:
devices:
- driver: nvidia
count: 1
capabilities: [gpu]
open-webui:
image: ghcr.io/open-webui/open-webui:main
container_name: open-webui
restart: unless-stopped
ports:
- "8080:8080"
environment:
- OLLAMA_BASE_URL=http://ollama:11434
volumes:
- openwebui_data:/app/backend/data
depends_on:
- ollama
volumes:
ollama_data:
openwebui_data:
Controleer na docker compose up -d het GPU-gebruik met docker exec -it ollama ollama ps tijdens een generatie. Blijft de container op de CPU, ga dan terug naar de tabel veelvoorkomende fixes (de GPU-rij).
Genummerde stappen nadat het bestand er staat
- Starten:
docker compose up -d - Logs bekijken:
docker compose logs -f ollama - Een model downloaden:
docker exec -it ollama ollama pull mistral:7b-instruct-q4_K_M - Openen:
http://localhost:8080(ofhttp://IP_VAN_JE_PC:8080vanaf een ander apparaat op het LAN). - Maak het admin-account van Open WebUI bij de eerste start (de gegevens blijven lokaal, in het volume).
Verwacht resultaat: de pagina van Open WebUI toont het chatscherm. Een model dat in ollama list staat, antwoordt binnen een minuut bij een 7B Q4 als er genoeg RAM is (een eerste model kiezen). Blijft de pagina wit of toont hij 502, dan is de Ollama-container nog niet klaar. Zie veelvoorkomende fixes.
Veiligheid
- Laat poort 8080 van de doorzetlijst van je router af, tenzij je aanmelding en HTTPS hebt.
- Houd Ollama (11434) alleen bereikbaar op het LAN of het interne Docker-netwerk.
- Gebruik een gasten-wifi als vrienden verbinding maken. Zie privacy als AI thuis blijft.
Na de eerste chat
- Stem het model af: een eerste model kiezen.
- Een GPU op native Windows is soms eenvoudiger te proberen in LM Studio, terwijl Ollama de API blijft doen.
- Stroom voor een machine die aan blijft: een budget voor een ai-server thuis.
Hardware
Deze stack draait op de pc of mini-pc die je al hebt, zolang Docker en het RAM passen bij de tabel “voor wie” bovenaan. Koop je een eigen machine om aan te laten staan, begin dan bij de hardwarekiezer (profielen Budget, Balans of Comfort, ruwe banden van oktober 2026, met de prijs van vandaag op Amazon.nl). Leg dat naast hardware kiezen voor AI thuis en de mini-pc-vergelijking. 32 GB RAM is het meest gekozen compromis voor Ollama en Open WebUI zonder voortdurend swapgeheugen.
Een zoeksnelkoppeling (oktober 2026, geen vaste prijs op deze pagina): een mini-pc met 32 GB op Amazon.nl — een Amazon-partnerlink. Controleer de NVMe-SSD, de koeling en het tarief op het moment dat je bestelt (hoe affiliatie werkt).
Updates en back-up
docker compose pull
docker compose up -d
Maak een back-up van de benoemde Compose-volumes voor je van machine wisselt. De opdrachten die je kunt kopiëren staan hieronder. Voor de precieze paden: docker volume inspect.
Veelvoorkomende fixes
| Symptoom | Wat je probeert |
|---|---|
| 502 van Open WebUI | De container ollama is nog niet klaar, of hij is gecrasht. Voer docker compose logs ollama uit en wacht tot de pull klaar is |
| Model ontbreekt in de UI | docker exec -it ollama ollama list, daarna ollama pull van de ontbrekende tag |
| GPU wordt niet gebruikt | De GPU-variant ontbreekt, of de NVIDIA Container Toolkit ontbreekt op de Linux-host |
| Heel trage antwoorden | Het model is te zwaar voor het RAM. Zie de band van het eerste 7B-model |
Toegang vanaf een tablet of telefoon op wifi (firewall, LAN-IP): het stuk LAN-hulp. Een 502 of een ontbrekend model los je eerst op met de tabel hierboven.
Koppelingen in huis
- Home Assistant: HTTP-aanroepen naar
ollama:11434 - n8n: hetzelfde eindpunt
- Gezinsassistent: Open WebUI is vaak genoeg
Snelle vergelijking: alleen Ollama tegenover de Docker-stack
| Criterium | Native installatie van Ollama | Docker Compose-stack |
|---|---|---|
| Gemak van de eerste start | Eenvoudiger (installatieprogramma of script) | Gemiddeld (Docker en Compose) |
| Onderhoud NVIDIA-GPU (Linux) | Drivers op de host | Drivers op de host en de NVIDIA Container Toolkit |
| Herhaalbaarheid (twee dezelfde pc’s) | Gemiddeld | Hoog (hetzelfde compose.yml) |
| Updates | Het installatieprogramma van Ollama | docker compose pull, daarna up -d |
| Domotica en n8n | http://IP:11434 op de host |
Een gemapte poort, of de netwerknaam ollama:11434 |
Verder lezen
- Eerste lokale AI in 15 minutenEen lichtere start als Docker in het begin zwaar voelt.
- Een SSD voor modellenDocker-volumes en een GGUF-bibliotheek.
- Kosten over 3 jaarEen machine die aan blijft, zonder cloudabonnement.
- Beelden zonder cloudComfyUI blijft meestal buiten deze tekststack.
Handige omgevingsvariabelen (LAN)
| Variabele | Voorbeeld | Gebruik |
|---|---|---|
OLLAMA_HOST |
0.0.0.0:11434 |
Luisteren op het LAN (een firewall is nodig) |
OLLAMA_ORIGINS |
http://192.168.1.10:8080 |
CORS voor een eigen Open WebUI-adres |
Open deze poorten alleen als je privacy en het scheiden van het netwerk begrijpt. Zie de gezinsassistent.
Back-up van de volumes (opdrachten)
Voer vanuit de map stack-ia (waar je compose.yml staat) docker volume ls uit. In het bestand heet de sleutel ollama_data. Compose zet de projectnaam ervoor (vaak de mapnaam): je ziet stack-ia_ollama_data, en geen losse regel die alleen ollama_data heet. Pas -v stack-ia_ollama_data: aan als jouw voorvoegsel anders is.
Linux, macOS en Git Bash (WSL) — de mount /backup wijst naar de huidige map:
docker run --rm -v stack-ia_ollama_data:/data -v $(pwd):/backup alpine tar czf /backup/ollama_data.tgz /data
Windows PowerShell — één regel, zonder syntaxiskleuren die de streepjes in de volumenaam breken:
docker run --rm -v stack-ia_ollama_data:/data -v ${PWD}:/backup alpine tar czf /backup/ollama_data.tgz /data
Herhaal de opdracht met stack-ia_openwebui_data in plaats van stack-ia_ollama_data om de geschiedenis van Open WebUI te bewaren. Bewaar het versleutelde archief op een NAS die niet aan internet hangt — een Synology-NAS.
Huiselijke opzetten met deze stack
| Opzet | Wat je aanpast |
|---|---|
| Eén gezins-pc | Poorten op localhost. Open WebUI op 127.0.0.1:8080 |
| Een tablet op wifi | http://IP_VAN_JE_PC:8080, zonder doorzetten op de router |
| Een mini-pc in de woonkamer | Geluid als hij aan blijft plus een model 7B Q4 |
| Een tiener en code | Chat via Open WebUI. Is de stack nog niet klaar, volg dan eerst Open WebUI voor beginners en daarna Continue op de laptop |
| Spraaktranscriptie | Whisper ernaast, niet in dit compose-bestand |
Controleer voor je meer containers stapelt (n8n, een reverse proxy) het vrije RAM (32 of 64 GB) en de ruimte op de SSD.
LAN-hulp (Open WebUI op een tablet)
Een 502, of een model dat de chat niet vindt: dezelfde diagnose als op de host-pc — veelvoorkomende fixes (Ollama is nog niet klaar, of de pull ontbreekt). Deze tabel dekt alleen netwerktoegang vanaf een ander apparaat.
| Symptoom | Controle |
|---|---|
| De pagina opent niet vanaf de telefoon | De Windows-firewall laat poort 8080 toe op het profiel Privé. Probeer http://IP_VAN_JE_PC:8080 (niet het IP van de router) |
| De chat werkt op de pc, en de tabletpagina is leeg | Controleer het LAN-IP van de server. OLLAMA_BASE_URL=http://ollama:11434 klopt nog steeds in Compose |
| Hoge vertraging op wifi van 2,4 GHz | Zet de mini-pc-server op ethernet. Kies een model 7B Q4 boven een 13B of groter |
Voor strikt lokaal gebruik zonder LAN blijf je op localhost. Zie privacy als kinderen de chat gebruiken.
Veelgestelde vragen
Is Docker Desktop genoeg op Windows?
Ja, om te beginnen, met WSL2 en een NVIDIA-GPU die is ingesteld. Op Linux is de native Docker-engine meestal eenvoudiger voor een machine die thuis aan blijft staan.
Waarom ziet Open WebUI Ollama niet?
Controleer of de variabele OLLAMA_BASE_URL naar http://ollama:11434 wijst, op hetzelfde Compose-netwerk.
Kan ik de interface op internet zetten?
Laat hem van het publieke internet af, tenzij je sterke aanmelding en een proxy hebt. Houd poort 8080 op het thuisnetwerk of op een VPN.
Kan ik Whisper in hetzelfde compose.yml zetten?
Een community-image kan dat, en dat valt buiten deze gids. Veel huishoudens installeren Whisper apart (offline Franse transcriptie), zodat de volumes kleiner blijven.
Vervangt Open WebUI LM Studio?
Ze doen ander werk. LM Studio (GPU-offload) is vooral om GGUF-bestanden te proberen. Open WebUI gebruikt de Ollama-API voor een gezinschat met meer dan één persoon.
Waar staan de modellen op schijf?
In het Docker-volume ollama_data. Houd de vrije ruimte in de gaten, net als bij een native installatie. Zie SSD-opslag voor modellen.
Bronnen
Verfijn het met de hardwarekiezer · Franse versie van deze rubriek