Docker: Ollama en Open WebUI samen

Door Emmanuel Sauvage · Gepubliceerd · Bijgewerkt

Deze pagina kan Amazon-affiliatelinks bevatten. Een aankoop na een klik kan de site een commissie opleveren, zonder extra kosten voor jou. Het advies blijft onafhankelijk. Hoe affiliatie werkt.

Docker (een containermotor: programma’s in herhaalbare, afgesloten dozen) kan Ollama (een motor voor grote taalmodellen, LLM’s) en Open WebUI (een chatinterface in de browser) starten met dezelfde configuratie op een mini-pc, een x86-NAS of een Linux-pc. Dat is handig voor een assistent voor het gezin, n8n of Home Assistant op dezelfde host.

Docker of een native installatie? Begin je en heb je Ollama nog nooit gestart, start dan met Ollama installeren zonder Docker of de Windows-gids stap voor stap. Er zijn minder lagen om uit te zoeken. Kom terug naar deze pagina als je een herhaalbare stack wilt (hetzelfde compose.yml op twee machines) of een x86-NAS. Uitgebreide vereisten: Ollama op een Synology-NAS.

Voor wie, en hoe lang het duurt

Voor wie Ruwe duur Voor je begint
Iemand met gemiddelde ervaring (Docker staat er al) ongeveer 45 min Docker-engine, en een idee van LAN-poorten
Een beginner zonder containers Open WebUI voor beginners of native Ollama is een betere start —
Een huishouden met meerdere apparaten (een tablet, een mini-pc die aan blijft) +15 min voor de LAN-instellingen 32 GB RAM is een goed doel

Werkwijze: kopieer eerst de minimale versie (CPU, of de GPU voeg je daarna toe), start met docker compose up -d, haal een 7B-model op en open daarna Open WebUI. Heb je een NVIDIA-kaart onder Linux, vervang het bestand dan door de GPU-variant voor de eerste up. Loop je vast, dan dekt de tabel veelvoorkomende fixes een 502 en ontbrekende modellen. De LAN-fixes gaan alleen over toegang vanaf wifi.

Hoe de diensten en poorten in elkaar zitten

Browser (LAN) ──► Open WebUI :8080 ──► interne HTTP ──► Ollama :11434
                         │                                    │
                    chatvolume                          volume met GGUF-modellen

Toelichting: vanaf een browser op de host-pc is localhost:8080 genoeg. Vanaf een tablet gebruik je het LAN-IP van de mini-pc (http://192.168.x.x:8080). Tussen containers roept Open WebUI http://ollama:11434 aan. Vanuit de webcontainer is dat niet localhost.

  • 11434: de Ollama-API (alleen LAN of localhost; laat hem van het publieke internet af).
  • 8080: de interface van Open WebUI (je maakt bij de eerste start een admin-account).
  • De twee containers delen een Docker-netwerk. Open WebUI roept http://ollama:11434 aan, en vanuit de webcontainer is dat niet localhost.

Vereisten

  • Docker Engine of Docker Desktop is geïnstalleerd.

  • Linux en een NVIDIA-GPU: de NVIDIA Container Toolkit staat op de host.

  • Windows: Docker Desktop, WSL2, en recente NVIDIA-drivers als je GPU-versnelling wilt.

  • Minimaal 16 GB RAM, 32 GB aanbevolen — 32 of 64 GB RAM.

  • Een x86-NAS (Synology of QNAP met Docker): controleer RAM en CPU voor je Ollama en Open WebUI op elkaar stapelt — Ollama op een Synology-NAS.

  • Een SSD voor de modelvolumes — opslag voor LLM’s.

Een pad zonder Docker: Ollama installeren en daarna Open WebUI voor beginners.

Minimale compose.yml

Maak een map stack-ia en een bestand compose.yml. Dit blok is de CPU-versie, of een host-GPU zonder het NVIDIA-blok (ongeveer 25 regels). Plak het zoals het er staat. Ben je nieuw met Compose, lees dan alleen OLLAMA_BASE_URL, de poorten en de volumes nog een keer.

services:
  ollama:
    image: ollama/ollama:latest
    container_name: ollama
    restart: unless-stopped
    volumes:
      - ollama_data:/root/.ollama
    ports:
      - "11434:11434"
  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: open-webui
    restart: unless-stopped
    ports:
      - "8080:8080"
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
    volumes:
      - openwebui_data:/app/backend/data
    depends_on:
      - ollama
volumes:
  ollama_data:
  openwebui_data:

Het benoemde volume ollama_data bewaart GGUF-modellen (een gekwantiseerd formaat voor lokale inferentie) ook na een herstart. NVIDIA-GPU onder Linux: zet geen commentaar in dit bestand. Vervang het door de GPU-variant (het volledige stuk deploy.resources) nadat de NVIDIA Container Toolkit erop staat.

NVIDIA-GPU-variant

Vervang de hele compose.yml door dit blok als Ollama de GPU in de container moet zien (Linux, met de toolkit geïnstalleerd). Gebruik dit bestand in plaats van het minimale. Zet ze niet allebei tegelijk op dezelfde machine.

services:
  ollama:
    image: ollama/ollama:latest
    container_name: ollama
    restart: unless-stopped
    volumes:
      - ollama_data:/root/.ollama
    ports:
      - "11434:11434"
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]
  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: open-webui
    restart: unless-stopped
    ports:
      - "8080:8080"
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434
    volumes:
      - openwebui_data:/app/backend/data
    depends_on:
      - ollama
volumes:
  ollama_data:
  openwebui_data:

Controleer na docker compose up -d het GPU-gebruik met docker exec -it ollama ollama ps tijdens een generatie. Blijft de container op de CPU, ga dan terug naar de tabel veelvoorkomende fixes (de GPU-rij).

Genummerde stappen nadat het bestand er staat

  1. Starten: docker compose up -d
  2. Logs bekijken: docker compose logs -f ollama
  3. Een model downloaden: docker exec -it ollama ollama pull mistral:7b-instruct-q4_K_M
  4. Openen: http://localhost:8080 (of http://IP_VAN_JE_PC:8080 vanaf een ander apparaat op het LAN).
  5. Maak het admin-account van Open WebUI bij de eerste start (de gegevens blijven lokaal, in het volume).

Verwacht resultaat: de pagina van Open WebUI toont het chatscherm. Een model dat in ollama list staat, antwoordt binnen een minuut bij een 7B Q4 als er genoeg RAM is (een eerste model kiezen). Blijft de pagina wit of toont hij 502, dan is de Ollama-container nog niet klaar. Zie veelvoorkomende fixes.

Veiligheid

  • Laat poort 8080 van de doorzetlijst van je router af, tenzij je aanmelding en HTTPS hebt.
  • Houd Ollama (11434) alleen bereikbaar op het LAN of het interne Docker-netwerk.
  • Gebruik een gasten-wifi als vrienden verbinding maken. Zie privacy als AI thuis blijft.

Na de eerste chat

Hardware

Deze stack draait op de pc of mini-pc die je al hebt, zolang Docker en het RAM passen bij de tabel “voor wie” bovenaan. Koop je een eigen machine om aan te laten staan, begin dan bij de hardwarekiezer (profielen Budget, Balans of Comfort, ruwe banden van oktober 2026, met de prijs van vandaag op Amazon.nl). Leg dat naast hardware kiezen voor AI thuis en de mini-pc-vergelijking. 32 GB RAM is het meest gekozen compromis voor Ollama en Open WebUI zonder voortdurend swapgeheugen.

Een zoeksnelkoppeling (oktober 2026, geen vaste prijs op deze pagina): een mini-pc met 32 GB op Amazon.nl — een Amazon-partnerlink. Controleer de NVMe-SSD, de koeling en het tarief op het moment dat je bestelt (hoe affiliatie werkt).

Updates en back-up

docker compose pull
docker compose up -d

Maak een back-up van de benoemde Compose-volumes voor je van machine wisselt. De opdrachten die je kunt kopiëren staan hieronder. Voor de precieze paden: docker volume inspect.

Veelvoorkomende fixes

Symptoom Wat je probeert
502 van Open WebUI De container ollama is nog niet klaar, of hij is gecrasht. Voer docker compose logs ollama uit en wacht tot de pull klaar is
Model ontbreekt in de UI docker exec -it ollama ollama list, daarna ollama pull van de ontbrekende tag
GPU wordt niet gebruikt De GPU-variant ontbreekt, of de NVIDIA Container Toolkit ontbreekt op de Linux-host
Heel trage antwoorden Het model is te zwaar voor het RAM. Zie de band van het eerste 7B-model

Toegang vanaf een tablet of telefoon op wifi (firewall, LAN-IP): het stuk LAN-hulp. Een 502 of een ontbrekend model los je eerst op met de tabel hierboven.

Koppelingen in huis

Snelle vergelijking: alleen Ollama tegenover de Docker-stack

Criterium Native installatie van Ollama Docker Compose-stack
Gemak van de eerste start Eenvoudiger (installatieprogramma of script) Gemiddeld (Docker en Compose)
Onderhoud NVIDIA-GPU (Linux) Drivers op de host Drivers op de host en de NVIDIA Container Toolkit
Herhaalbaarheid (twee dezelfde pc’s) Gemiddeld Hoog (hetzelfde compose.yml)
Updates Het installatieprogramma van Ollama docker compose pull, daarna up -d
Domotica en n8n http://IP:11434 op de host Een gemapte poort, of de netwerknaam ollama:11434

Verder lezen

Handige omgevingsvariabelen (LAN)

Variabele Voorbeeld Gebruik
OLLAMA_HOST 0.0.0.0:11434 Luisteren op het LAN (een firewall is nodig)
OLLAMA_ORIGINS http://192.168.1.10:8080 CORS voor een eigen Open WebUI-adres

Open deze poorten alleen als je privacy en het scheiden van het netwerk begrijpt. Zie de gezinsassistent.

Back-up van de volumes (opdrachten)

Voer vanuit de map stack-ia (waar je compose.yml staat) docker volume ls uit. In het bestand heet de sleutel ollama_data. Compose zet de projectnaam ervoor (vaak de mapnaam): je ziet stack-ia_ollama_data, en geen losse regel die alleen ollama_data heet. Pas -v stack-ia_ollama_data: aan als jouw voorvoegsel anders is.

Linux, macOS en Git Bash (WSL) — de mount /backup wijst naar de huidige map:

docker run --rm -v stack-ia_ollama_data:/data -v $(pwd):/backup alpine tar czf /backup/ollama_data.tgz /data

Windows PowerShell — één regel, zonder syntaxiskleuren die de streepjes in de volumenaam breken:

docker run --rm -v stack-ia_ollama_data:/data -v ${PWD}:/backup alpine tar czf /backup/ollama_data.tgz /data

Herhaal de opdracht met stack-ia_openwebui_data in plaats van stack-ia_ollama_data om de geschiedenis van Open WebUI te bewaren. Bewaar het versleutelde archief op een NAS die niet aan internet hangt — een Synology-NAS.

Huiselijke opzetten met deze stack

Opzet Wat je aanpast
Eén gezins-pc Poorten op localhost. Open WebUI op 127.0.0.1:8080
Een tablet op wifi http://IP_VAN_JE_PC:8080, zonder doorzetten op de router
Een mini-pc in de woonkamer Geluid als hij aan blijft plus een model 7B Q4
Een tiener en code Chat via Open WebUI. Is de stack nog niet klaar, volg dan eerst Open WebUI voor beginners en daarna Continue op de laptop
Spraaktranscriptie Whisper ernaast, niet in dit compose-bestand

Controleer voor je meer containers stapelt (n8n, een reverse proxy) het vrije RAM (32 of 64 GB) en de ruimte op de SSD.

LAN-hulp (Open WebUI op een tablet)

Een 502, of een model dat de chat niet vindt: dezelfde diagnose als op de host-pc — veelvoorkomende fixes (Ollama is nog niet klaar, of de pull ontbreekt). Deze tabel dekt alleen netwerktoegang vanaf een ander apparaat.

Symptoom Controle
De pagina opent niet vanaf de telefoon De Windows-firewall laat poort 8080 toe op het profiel Privé. Probeer http://IP_VAN_JE_PC:8080 (niet het IP van de router)
De chat werkt op de pc, en de tabletpagina is leeg Controleer het LAN-IP van de server. OLLAMA_BASE_URL=http://ollama:11434 klopt nog steeds in Compose
Hoge vertraging op wifi van 2,4 GHz Zet de mini-pc-server op ethernet. Kies een model 7B Q4 boven een 13B of groter

Voor strikt lokaal gebruik zonder LAN blijf je op localhost. Zie privacy als kinderen de chat gebruiken.

Veelgestelde vragen

Is Docker Desktop genoeg op Windows?

Ja, om te beginnen, met WSL2 en een NVIDIA-GPU die is ingesteld. Op Linux is de native Docker-engine meestal eenvoudiger voor een machine die thuis aan blijft staan.

Waarom ziet Open WebUI Ollama niet?

Controleer of de variabele OLLAMA_BASE_URL naar http://ollama:11434 wijst, op hetzelfde Compose-netwerk.

Kan ik de interface op internet zetten?

Laat hem van het publieke internet af, tenzij je sterke aanmelding en een proxy hebt. Houd poort 8080 op het thuisnetwerk of op een VPN.

Kan ik Whisper in hetzelfde compose.yml zetten?

Een community-image kan dat, en dat valt buiten deze gids. Veel huishoudens installeren Whisper apart (offline Franse transcriptie), zodat de volumes kleiner blijven.

Vervangt Open WebUI LM Studio?

Ze doen ander werk. LM Studio (GPU-offload) is vooral om GGUF-bestanden te proberen. Open WebUI gebruikt de Ollama-API voor een gezinschat met meer dan één persoon.

Waar staan de modellen op schijf?

In het Docker-volume ollama_data. Houd de vrije ruimte in de gaten, net als bij een native installatie. Zie SSD-opslag voor modellen.

Bronnen

Verfijn het met de hardwarekiezer · Franse versie van deze rubriek