Lokaal coderen met Continue en Ollama
Deze pagina kan Amazon-affiliatelinks bevatten. Een aankoop na een klik kan de site een commissie opleveren, zonder extra kosten voor jou. Het advies blijft onafhankelijk. Hoe affiliatie werkt.
Een kleine persoonlijke site, een Pythonscript dat foto’s sorteert of een plugin voor Home Assistant is een ander werk dan software bouwen voor een bedrijf. Thuis gaat het vaak om twee dingen: tijd winnen op herhalend werk, en stukjes code thuishouden. In die stukjes zitten soms een wachtwoord in een commentaar, een test-API-sleutel of persoonlijke gegevens.
In het kort: doel, voor wie, wat je al nodig hebt
- Doel: de extensie Continue op Ollama aansluiten, zodat je een codechat en automatisch aanvullen krijgt in VS Code, zonder de map naar een gehoste dienst te sturen.
- Voor wie: een hobby-ontwikkelaar, een student of een ouder die persoonlijke scripts aanpast. Een bedrijfsmonorepo is een ander werk.
- Vooraf: Ollama geïnstalleerd (Windows, Linux en Mac of de Windows-wandeling), een codemodel van 7B tot 13B binnengehaald, 16 tot 32 GB RAM of een gpu met genoeg VRAM (VRAM en modelgrootte), en een actuele VS Code.
Woorden in de interface: Continue en VS Code zeggen inline, autocomplete en diff. Hier betekent dat aanvullen tijdens het typen, automatische suggesties, en de vergelijking van voor en na een wijziging.
Continue is een open-source-extensie voor Visual Studio Code (en JetBrains). Hij voegt een chat toe die de context ziet, een bewerking op een opdracht, en aanvullen tijdens het typen (inline in de interface). Ollama is de motor: hij laadt modellen op jouw machine en biedt een lokale API (een HTTP-ingang om met het model te praten), meestal op poort 11434. Je wijst Continue naar het basisadres van die API, het veld apiBase, bijvoorbeeld http://localhost:11434. Prompts en stukjes uit de map blijven dan op het thuisnetwerk.
Wat Continue doet, en wat Ollama toevoegt
Continue vervangt je compiler en Git niet. Het is een gesprekslaag boven de editor. Je selecteert een bestand, stelt een vraag (« leg deze functie uit », « voeg eenvoudige unittests toe »), vraagt een wijziging over meerdere bestanden, of neemt een suggestie aan terwijl je typt. Het model leest de context die je meestuurt: het open bestand, de selectie, en soms andere bestanden die je hebt geïndexeerd.
Ollama haalt modelgewichten binnen, serveert ze via een daemon (een proces op de achtergrond) en antwoordt op chatverzoeken in een vorm die op de OpenAI-API lijkt. Continue verbindt via apiBase (het basisadres van de Ollama-API) en de exacte naam die ollama list toont. Zolang Ollama lokaal luistert en je poort 11434 niet op internet opent, blijft het verkeer op jouw netwerk. Voor de privacy van hobbycode is dat een sterk argument. Voor de kwaliteit op grote bedrijfsmonorepo’s is deze gids niet geschreven. Zie privacy als de AI thuis blijft.
Staat Ollama er nog niet op, begin dan bij Ollama installeren op Windows, Linux of Mac of de Windows-gids stap voor stap. Een eerste test zonder VS Code: een eerste lokale AI in 15 minuten.
GGUF, kwantisatie en codemodellen van 7B tot 13B
De modellen die Ollama ophaalt, zijn vaak verpakt vanuit GGUF-bestanden (een formaat dat bij llama.cpp hoort: Georgi Gerganov Unified Format, het verenigde tensorformaat voor inferentie op cpu en gpu). In de praktijk bewaart GGUF een gekwantiseerd model (Q4_K_M, Q5_K_M, Q8_0 en verder). Je verlaagt de numerieke precisie van de gewichten, wint plaats in het VRAM (het videogeheugen van de kaart) of in het RAM, en levert een beetje fijnheid in. Voor hobbycode is Q4_K_M op een « coder »-model van 7B of 8B het gewone compromis. Een 13B op Q4 vraagt meer geheugen en volgt langere refactors beter.
Ollama vraagt niet dat je GGUF-bestanden met de hand bewerkt. Het commando ollama pull haalt een kant-en-klaar Modelfile binnen. Kies bij voorkeur instruct-varianten die op code gericht zijn. De namen bevatten vaak coder, code, of ze horen bij families die voor ontwikkeling bekendstaan. De catalogus van Ollama verandert snel. In oktober 2026 blijven groottes van 7B tot 13B de realistische zone voor een ontwikkelcomputer thuis, zonder een rij losse videokaarten naast elkaar. Mik niet op een 70B « omdat hij op de homepage staat »: op een mini-pc val je terug op een trage cpu en een aanvulling die tegenvalt. De gidsen VRAM en welk model en een eerste model kiezen helpen om grootte, kwantisatie en vlotheid naast elkaar te leggen.
Voorbeelden van commando’s (pas de tags aan de catalogus van het moment aan):
ollama pull qwen2.5-coder:7b
ollama pull deepseek-coder-v2:16b-lite-instruct-q4_K_M
ollama run qwen2.5-coder:7b
Test in de terminal. Slepen de antwoorden, of schuift het proces helemaal naar het systeemgeheugen, verklein dan het model of kijk naar een machine met meer RAM, 32 of 64 GB voor taalmodellen.
Werkwijze: eerst Ollama, daarna Continue in VS Code
Ollama klaarzetten en de API controleren
- Installeer Ollama en laat de dienst starten (het pictogram in de taakbalk onder Windows,
systemdonder Linux). - Haal een codemodel binnen dat bij je RAM of VRAM past (zie de sectie over modellen).
- Controleer of de API antwoordt:
curl http://localhost:11434/api/tagsmoet je modellen tonen, of testollama list. - (Optie) Draait Ollama op een andere machine in huis, noteer dan een vast DHCP-adres en sta poort 11434 alleen op het thuisnetwerk toe. Een open doorsturing naar internet hoort daar niet bij.
Continue in VS Code installeren
- Open VS Code, het tabblad Extensions, zoek Continue (uitgever Continue) en installeer de officiële extensie.
- Open het Continue-paneel (het pictogram in de zijbalk) en daarna Settings of de modelconfiguratie (het bestand
config.yamlof de interface, afhankelijk van de versie).
Het Ollama-model en apiBase instellen
- Voeg een model van het type Ollama toe met:
provider(de achterkant):ollamamodel: de exacte naam uitollama list(bijvoorbeeldqwen2.5-coder:7b)apiBase(het basisadres van de API):http://localhost:11434, ofhttp://IP_VAN_DE_SERVER:11434als Ollama elders op het thuisnetwerk draait
- Zet dit model als chat en, als de interface dat toelaat, als model voor automatisch aanvullen (de rol
autocomplete, suggesties tijdens het typen in Continue). - Herstart VS Code als de wijzigingen nog niet gelden.
Configuratieblok voor Continue (documentatie van oktober 2026)
De syntaxis kan met Continue meeveranderen. Controleer de officiële documentatie voordat je kopieert. De sleutels blijven Engels (provider, model, apiBase, roles): dat eist Continue. Kopieer het blok regel voor regel, zonder spaties vóór models:
models:
- name: Ollama Code 7B
provider: ollama
model: qwen2.5-coder:7b
apiBase: http://localhost:11434
roles:
- chat
- autocomplete
Met Docker (Docker-stack Ollama en Open WebUI) kan de host http://127.0.0.1:11434 zijn, gemapt vanuit de container. Test met curl vanaf dezelfde machine als VS Code.
Continue in de editor testen
- Open een lokale map. GitHub is daarvoor niet nodig.
- Selecteer een functie en open de Continue-chat. Vraag een uitleg in het Nederlands.
- Stel een gerichte wijziging voor (« voeg foutafhandeling toe bij het openen van een bestand ») en lees de vergelijking van de wijzigingen (diff in Continue) voordat je accepteert.
- Zet aanvullen tijdens het typen aan (inline) als dat er is. Zijn de suggesties traag, verklein dan de context of stap over op een lichter 7B-model.
- Plak geen geheimen in de chat. Ook lokaal kunnen logboeken of schermafbeeldingen uitlekken. Maak er een gewoonte van om te anonimiseren.
Verbinding in het kort (einde van de werkwijze)
apiBase: http://localhost:11434
Standaardpoort van Ollama: 11434
model: de exacte naam, gekopieerd uit « ollama list »
Draait Ollama op een andere machine op het thuisnetwerk, vervang localhost dan alleen in apiBase door het vaste ip-adres van de server. Houd de firewall in de hand, en stuur poort 11434 nooit open door naar internet.
Hardware: mini-pc, gpu en VRAM voor code
Als de aanvulling traag blijft ondanks een licht 7B-model, leg dan het hardwareprofiel en het model naast elkaar. Wissel niet van machine voordat de drie regels hierboven kloppen. In één zin: een gekwantiseerde 7B past vaak op een mini-pc met 32 GB en een RTX van 8 GB. Een comfortabele 13B vraagt eerder 12 tot 16 GB VRAM, of een Mac met ruim unified memory. Uitgebreide gidsen: VRAM en welk model, Mac mini M4, vergelijking van mini-pc’s voor taalmodellen, hardwarekiezer (gebruik, geluid en budget, zonder een precies artikelnummer te duwen).
Indicatieve banden voor een huishouden, oktober 2026. Meet op jouw machine (ollama ps, de systeemmonitor, of nvidia-smi bij een NVIDIA-gpu).
| Profiel | VRAM / RAM | Aanbevolen model | Opmerking |
|---|---|---|---|
| Laptop met 16 GB | igpu, swap van RAM | 3B–7B Q4 | Om te leren. Aanvullen hapert soms |
| Mini-pc 32 GB plus RTX 4060 8 GB | 8 GB VRAM | 7B–8B Q4/Q5 | Een goede balans van prijs en comfort aan een bureau |
| Werkstation 64 GB plus RTX 4070 12 GB | 12 GB VRAM | 7B vlot, 13B Q4 | Refactors over meerdere bestanden blijven stabieler |
| Mac mini met 24–32 GB unified | unified memory | 7B–8B | Weinig geluid. Controleer de Ollama-tags voor Apple |
Continue kan op de laptop van de ontwikkelaar draaien terwijl Ollama op een vaste machine in de woonkamer staat (een stille mini-pc). Dezelfde regel voor apiBase, met het ip-adres op het thuisnetwerk. Voor verbruik dag en nacht: geluid en verbruik van een mini-pc, stroombudget. Zet de modellen op een ssd (ssd en opslag van modellen). egpu en igpu: gpu, igpu, egpu en OCuLink.
Hardware kopen (optioneel). Alleen als je na tests een knelpunt in VRAM of RAM ziet. Controleer de actuele prijs (oktober 2026). LocAIhome zet geen vaste prijs. Amazon-zoekopdrachten om het aanbod van het moment te vergelijken: mini-pc’s voor een taalmodel op Amazon.nl, RTX 4060-kaarten op Amazon.nl. Partnerlinks (tag manuso0607-21). De uitleg staat op de affiliatepagina.
Wil je taken automatiseren in plaats van in de IDE te coderen, dan blijft de stroom van n8n en een lokaal model een aanvullend spoor.
Eerlijke grenzen en alternatieven
Een lokale 7B tot 13B vergist zich op obscure API’s, heel recente afhankelijkheden of enorme projecten die niet geïndexeerd zijn. Continue heeft niet de integratiediepte van een Copilot over het hele Microsoft-ecosysteem. Voor de kosten van hardware tegenover cloudabonnementen over drie jaar open je Ollama tegenover ChatGPT over 3 jaar.
LM Studio (gids over gpu-offload) blijft handig om GGUF te proberen voordat je ze via Ollama serveert. Wil je alleen praten, zonder IDE, dan volstaat Open WebUI. Voor een ander gebruik in huis deelt de privé-assistent voor het gezin vaak dezelfde machine. Huisautomatisering loopt eerder via n8n en een lokaal model of Home Assistant dan via Continue.
Veiligheid en gewoonten
Stel Ollama niet open op internet zonder stevige authenticatie. Werk Ollama en Continue regelmatig bij. Op een pc die je deelt met een tiener spreek je regels af (geen werkcode van een werkgever op het gezinsmodel). Lokaal verkleint het risico dat iets naar een cloudaanbieder lekt. Hallucinaties blijven. Controleer gegenereerde code altijd voordat je hem uitvoert, zeker als hij het netwerk of het bestandssysteem raakt.
Kort samengevat: installeer Ollama, haal een codemodel van 7B tot 13B binnen, stel Continue in (het overzicht apiBase, 11434, ollama list), test in de editor, en pas daarna hardware of model aan als de vertraging stoort. Overzicht van de hardware: hardware kiezen voor AI thuis. Software: de rubriek lokale AI-software.
Veelgestelde vragen
Welk codemodel kies je met Ollama?
Mik op een instructmodel dat voor code is gemaakt, in de band 7B tot 13B, gekwantiseerd als Q4_K_M. Dat volstaat voor persoonlijke scripts als het videogeheugen (VRAM) of het gewone geheugen het model kan houden. Zie de VRAM-gids van LocAIhome.
Werkt Continue zonder Ollama?
Ja, met andere modelservers. Deze gids richt zich op lokale Ollama, zodat prompts en stukjes uit de map bij jou blijven.
Is dit te vergelijken met GitHub Copilot?
De ervaring ligt dichtbij: aanvullen plus een chat in de editor, met minder ingebouwde integratie en meer instellingen. Voor een huishouden is het punt dat de code thuis blijft.
Bronnen
Verfijn het met de hardwarekiezer · Franse versie van deze rubriek