Twoody

Calculator voor lokale LLM's

Het beste lokale LLM voor uw NVIDIA-videokaart

Van de RTX 3060 tot de RTX 5090: het sterkste model dat in het geheugen van elke kaart past, en hoe snel het schrijft.

Uw computer Geheugen Het sterkste dat ruim draait Schrijft Standaard voorgesteld door Twoody

GeForce RTX 5090 (32 GB)

32 GB Qwen3.6 35B-A3B Met één klik in Twoody 100+ tokens/s Qwen3.5 9B (7,9 GB)

GeForce RTX 5080 (16 GB)

16 GB Qwen3 14B Met één klik in Twoody 66–95 tokens/s Qwen3.5 9B (7,9 GB)

GeForce RTX 5070 Ti (16 GB)

16 GB Qwen3 14B Met één klik in Twoody 63–91 tokens/s Qwen3.5 9B (7,9 GB)

GeForce RTX 5070 (12 GB)

12 GB Gemma 4 12B Met één klik in Twoody 56–81 tokens/s Qwen3.5 9B (7,9 GB)

GeForce RTX 5060 Ti (16 GB)

16 GB Qwen3 14B Met één klik in Twoody 32–46 tokens/s Qwen3.5 9B (7,9 GB)

GeForce RTX 5060 Ti (8 GB)

8 GB Qwen3.5 4B Met één klik in Twoody 77–154 tokens/s Qwen3.5 9B (7,9 GB) Deels op de processor: veel trager

GeForce RTX 5060 (8 GB)

8 GB Qwen3.5 4B Met één klik in Twoody 82–147 tokens/s Qwen3.5 9B (7,9 GB) Deels op de processor: veel trager

GeForce RTX 4090 (24 GB)

24 GB Qwen3.6 35B-A3B Met één klik in Twoody 100+ tokens/s Qwen3.5 9B (7,9 GB)

GeForce RTX 4080 SUPER (16 GB)

16 GB Qwen3 14B Met één klik in Twoody 52–74 tokens/s Qwen3.5 9B (7,9 GB)

GeForce RTX 4080 (16 GB)

16 GB Qwen3 14B Met één klik in Twoody 50–72 tokens/s Qwen3.5 9B (7,9 GB)

GeForce RTX 4070 Ti SUPER (16 GB)

16 GB Qwen3 14B Met één klik in Twoody 47–67 tokens/s Qwen3.5 9B (7,9 GB)

GeForce RTX 4070 Ti (12 GB)

12 GB Gemma 4 12B Met één klik in Twoody 47–67 tokens/s Qwen3.5 9B (7,9 GB)

GeForce RTX 4070 SUPER (12 GB)

12 GB Gemma 4 12B Met één klik in Twoody 47–67 tokens/s Qwen3.5 9B (7,9 GB)

GeForce RTX 4070 (12 GB)

12 GB Gemma 4 12B Met één klik in Twoody 41–59 tokens/s Qwen3.5 9B (7,9 GB)

GeForce RTX 4060 Ti (16 GB)

16 GB Qwen3 14B Met één klik in Twoody 21–30 tokens/s Qwen3.5 9B (7,9 GB)

GeForce RTX 4060 Ti (8 GB)

8 GB Qwen3.5 4B Met één klik in Twoody 53–105 tokens/s Qwen3.5 9B (7,9 GB) Deels op de processor: veel trager

GeForce RTX 4060 (8 GB)

8 GB Qwen3.5 4B Met één klik in Twoody 53–95 tokens/s Qwen3.5 9B (7,9 GB) Deels op de processor: veel trager

GeForce RTX 3090 (24 GB)

24 GB Qwen3.6 35B-A3B Met één klik in Twoody 100+ tokens/s Qwen3.5 9B (7,9 GB)

GeForce RTX 3080 (10 GB)

10 GB Gemma 4 12B Met één klik in Twoody 62–89 tokens/s Qwen3.5 9B (7,9 GB)

GeForce RTX 3070 (8 GB)

8 GB Qwen3.5 4B Met één klik in Twoody 62–123 tokens/s Qwen3.5 9B (7,9 GB) Deels op de processor: veel trager

GeForce RTX 3060 Ti (8 GB)

8 GB Qwen3.5 4B Met één klik in Twoody 70–140 tokens/s Qwen3.5 9B (7,9 GB) Deels op de processor: veel trager

GeForce RTX 3060 (12 GB)

12 GB Gemma 4 12B Met één klik in Twoody 33–48 tokens/s Qwen3.5 9B (7,9 GB)

‘Het sterkste dat ruim draait’: het sterkste model dat ruim in het geheugen van de kaart past en er minstens in uw leestempo schrijft (5 tokens per seconde). ‘Standaard voorgesteld door Twoody’: het model dat de app als eerste installeert op een pc met deze kaart en 32 GB geheugen, een van de modellen die Twoody heeft gemeten met zijn geheugen, zijn tools en uw documenten, en het geheugen dat het er nodig heeft.

De snelheden zijn schattingen, geen metingen met Twoody, berekend op basis van openbare llama.cpp-benchmarks. Cijfers gecontroleerd op 16 oktober 2026.

Op een pc bepaalt het geheugen van de videokaart (VRAM) het: 8 GB voor modellen van 4 tot 8 miljard parameters, 16 GB voor 14 miljard of gpt-oss 20B, 24 tot 32 GB voor 32 miljard.

Videokaarten lezen hun geheugen heel snel: met een model dat past, schrijven ze sneller dan welke Mac ook.

Twoody voor Windows en Linux is in besloten bèta: op Windows 10 en 11 (x64) gebruikt het via Vulkan een NVIDIA-kaart voor het model als het stuurprogramma dat ondersteunt, en anders de processor; op Linux de processor. De snelheden op deze pagina zijn schattingen voor een model dat op de videokaart draait, geen metingen met Twoody.

Vragen over een LLM lokaal draaien

Welk LLM voor een RTX 4090?

Het sterkste model dat er ruim draait, is Qwen3.6 35B-A3B; het schrijft 100+ tokens/s. Het is met één klik te installeren vanuit de catalogus van Twoody. Op een pc met 32 GB geheugen stelt Twoody standaard Qwen3.5 9B voor, dat er 7,9 GB nodig heeft: een van de modellen die Twoody heeft gemeten met zijn geheugen, zijn tools en uw documenten.

Is een videokaart met 8 GB genoeg?

Voor kleine modellen wel. Het sterkste model dat er ruim draait, is Qwen3.5 4B; het schrijft 53–154 tokens/s, afhankelijk van de kaart. Het is met één klik te installeren vanuit de catalogus van Twoody. Grotere lopen over naar het geheugen van de computer en worden veel trager.

Draait Twoody op Windows met een NVIDIA-kaart?

In de besloten bèta wel: op Windows 10 en 11 (x64) draait Twoody het model via Vulkan op een NVIDIA-kaart als het stuurprogramma dat ondersteunt, en anders op de processor. Laat uw e-mailadres achter op de pagina met platforms om op de wachtlijst te komen.

Twoody is in besloten bèta.

Op Mac, Windows en Linux, gratis, zonder account en zonder abonnement — en op iPhone en Android, met Twoody op uw computer. Laat uw e-mailadres achter: we schrijven u zodra Twoody voor u opengaat.