Een LLM lokaal draaien op uw Windows-pc

Waarom een LLM op uw pc

Het model antwoordt en leest uw bestanden op de pc zelf. Zodra het model is geïnstalleerd, werkt het zonder internet. Er is geen abonnement, geen limiet en geen account nodig. De keerzijde: een model dat op een pc past, is kleiner dan de grootste online modellen — uitstekend voor schrijven, samenvattingen en uw documenten, minder voor het moeilijkste denkwerk.

Wat u nodig heeft

Windows 10 of 11, 64-bit. Er tellen twee soorten geheugen. Op de processor bepaalt het werkgeheugen van de computer (RAM) het model: 8 GB voor ongeveer 4 miljard parameters, 16 GB voor 8 miljard, 24 GB voor 14 miljard. Op een videokaart bepaalt het eigen geheugen van de kaart (VRAM) het: 8 GB voor modellen van 4 tot 8 miljard parameters, 16 GB voor 14 miljard of gpt-oss 20B, 24 tot 32 GB voor 32 miljard. Een model dat in de videokaart past, schrijft veel sneller dan op de processor.

Welk model u kiest

Qwen3.5 schrijft in elke grootte goed, en in veel talen; Llama, Gemma, Mistral en gpt-oss zijn goede alternatieven. Kies met een videokaart een model dat volledig in haar geheugen past: een model dat overloopt naar het werkgeheugen van de computer, wordt veel trager. Zonder videokaart blijft u bij de kleine modellen, van ongeveer 4 miljard parameters.

Wat Twoody voor u doet

• Het stelt het model voor dat bij uw pc past en installeert het met één klik; de catalogus telt er 57, elk met het geheugen dat het vraagt.
• Het leest uw documentmappen, en de antwoorden vermelden hun bronnen, tot op de pagina.
• Het installatieprogramma is ondertekend door Osmove; het model draait op de videokaart via Vulkan als het stuurprogramma dat toelaat, anders op de processor.

Wat er anders is dan op de Mac

Het is dezelfde app, met dezelfde gesprekken en documenten. Een paar functies zijn er alleen op de Mac: gescande pdf's lezen, de Agenda en Contacten van de Mac, dicteren met de spraakherkenning van macOS (op Windows wordt uw stem op de pc omgezet in tekst door whisper.cpp, dat met de app wordt meegeleverd) en MLX. Net als op de Mac werkt Twoody zichzelf bij, na uw klik.

Met Twoody, in drie stappen

1. 1

   Schrijf u in op de wachtlijst: Twoody is in besloten bèta, op Windows net als op de Mac en Linux, en we schrijven u zodra het voor u opengaat.

2. 2

   Installeer met één klik het model dat Twoody voor uw pc voorstelt: 3,5 GB voor Qwen3.5 4B, 6,7 GB voor de 9B.

3. 3

   Stel uw eerste vraag — en zet wifi uit als u wilt.