Begin hier: lokale AI op de pc die je al hebt
Deze pagina kan Amazon-affiliatelinks bevatten. Een aankoop na een klik kan de site een commissie opleveren, zonder extra kosten voor jou. Het advies blijft onafhankelijk. Hoe affiliatie werkt.
Deze rubriek is voor volwassenen die Ollama nog nooit hebben gestart en één bewijs willen op de pc van het huishouden, meestal Windows, voor ze een mini-pc kopen. Je hoeft niet te kunnen programmeren.
Elke gids zet de stappen op een rij, wat je nodig hebt, een ruwe duur en de fouten die het eerst opduiken. De kern is Ollama, het open-sourceprogramma dat een model op je eigen machine draait. GGUF is het bestandsformaat van een gecomprimeerd model. De maten (Q4, 7B en de rest) staan in een eerste model kiezen.
Eén draad: eerst een chat, dan Windows als dat je pc is, dan een webinterface voor het gezin, dan een model dat echt in je RAM past. LM Studio en Whisper komen als de chat stabiel is. Whisper maakt van audio tekst. Het is geen gesprek met Ollama.
Zet poort 11434, of Open WebUI, niet open op het publieke internet zonder VPN of wachtwoord. Lees voor een aankoop de kostenrubriek, zodat de eerste doos niet groter is dan de klus.