Calculator voor lokale LLM's
Het beste lokale LLM voor uw NVIDIA-videokaart
Van de RTX 3060 tot de RTX 5090: het sterkste model dat in het geheugen van elke kaart past, en hoe snel het schrijft.
| Uw computer | Geheugen | Het sterkste dat ruim draait | Schrijft | Standaard voorgesteld door Twoody |
|---|---|---|---|---|
GeForce RTX 5090 (32 GB) |
32 GB | Qwen3.6 35B-A3B Met één klik in Twoody | 100+ tokens/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 5080 (16 GB) |
16 GB | Qwen3 14B Met één klik in Twoody | 66–95 tokens/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 5070 Ti (16 GB) |
16 GB | Qwen3 14B Met één klik in Twoody | 63–91 tokens/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 5070 (12 GB) |
12 GB | Gemma 4 12B Met één klik in Twoody | 56–81 tokens/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 5060 Ti (16 GB) |
16 GB | Qwen3 14B Met één klik in Twoody | 32–46 tokens/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 5060 Ti (8 GB) |
8 GB | Qwen3.5 4B Met één klik in Twoody | 77–154 tokens/s | Qwen3.5 9B (7,9 GB) Deels op de processor: veel trager |
GeForce RTX 5060 (8 GB) |
8 GB | Qwen3.5 4B Met één klik in Twoody | 82–147 tokens/s | Qwen3.5 9B (7,9 GB) Deels op de processor: veel trager |
GeForce RTX 4090 (24 GB) |
24 GB | Qwen3.6 35B-A3B Met één klik in Twoody | 100+ tokens/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 4080 SUPER (16 GB) |
16 GB | Qwen3 14B Met één klik in Twoody | 52–74 tokens/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 4080 (16 GB) |
16 GB | Qwen3 14B Met één klik in Twoody | 50–72 tokens/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 4070 Ti SUPER (16 GB) |
16 GB | Qwen3 14B Met één klik in Twoody | 47–67 tokens/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 4070 Ti (12 GB) |
12 GB | Gemma 4 12B Met één klik in Twoody | 47–67 tokens/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 4070 SUPER (12 GB) |
12 GB | Gemma 4 12B Met één klik in Twoody | 47–67 tokens/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 4070 (12 GB) |
12 GB | Gemma 4 12B Met één klik in Twoody | 41–59 tokens/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 4060 Ti (16 GB) |
16 GB | Qwen3 14B Met één klik in Twoody | 21–30 tokens/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 4060 Ti (8 GB) |
8 GB | Qwen3.5 4B Met één klik in Twoody | 53–105 tokens/s | Qwen3.5 9B (7,9 GB) Deels op de processor: veel trager |
GeForce RTX 4060 (8 GB) |
8 GB | Qwen3.5 4B Met één klik in Twoody | 53–95 tokens/s | Qwen3.5 9B (7,9 GB) Deels op de processor: veel trager |
GeForce RTX 3090 (24 GB) |
24 GB | Qwen3.6 35B-A3B Met één klik in Twoody | 100+ tokens/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 3080 (10 GB) |
10 GB | Gemma 4 12B Met één klik in Twoody | 62–89 tokens/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 3070 (8 GB) |
8 GB | Qwen3.5 4B Met één klik in Twoody | 62–123 tokens/s | Qwen3.5 9B (7,9 GB) Deels op de processor: veel trager |
GeForce RTX 3060 Ti (8 GB) |
8 GB | Qwen3.5 4B Met één klik in Twoody | 70–140 tokens/s | Qwen3.5 9B (7,9 GB) Deels op de processor: veel trager |
GeForce RTX 3060 (12 GB) |
12 GB | Gemma 4 12B Met één klik in Twoody | 33–48 tokens/s | Qwen3.5 9B (7,9 GB) |
‘Het sterkste dat ruim draait’: het sterkste model dat ruim in het geheugen van de kaart past en er minstens in uw leestempo schrijft (5 tokens per seconde). ‘Standaard voorgesteld door Twoody’: het model dat de app als eerste installeert op een pc met deze kaart en 32 GB geheugen, een van de modellen die Twoody heeft gemeten met zijn geheugen, zijn tools en uw documenten, en het geheugen dat het er nodig heeft.
De snelheden zijn schattingen, geen metingen met Twoody, berekend op basis van openbare llama.cpp-benchmarks. Cijfers gecontroleerd op 16 oktober 2026.
Op een pc bepaalt het geheugen van de videokaart (VRAM) het: 8 GB voor modellen van 4 tot 8 miljard parameters, 16 GB voor 14 miljard of gpt-oss 20B, 24 tot 32 GB voor 32 miljard.
Videokaarten lezen hun geheugen heel snel: met een model dat past, schrijven ze sneller dan welke Mac ook.
Twoody voor Windows en Linux is in besloten bèta: op Windows 10 en 11 (x64) gebruikt het via Vulkan een NVIDIA-kaart voor het model als het stuurprogramma dat ondersteunt, en anders de processor; op Linux de processor. De snelheden op deze pagina zijn schattingen voor een model dat op de videokaart draait, geen metingen met Twoody.
Vragen over een LLM lokaal draaien
Welk LLM voor een RTX 4090?
Het sterkste model dat er ruim draait, is Qwen3.6 35B-A3B; het schrijft 100+ tokens/s. Het is met één klik te installeren vanuit de catalogus van Twoody. Op een pc met 32 GB geheugen stelt Twoody standaard Qwen3.5 9B voor, dat er 7,9 GB nodig heeft: een van de modellen die Twoody heeft gemeten met zijn geheugen, zijn tools en uw documenten.
Is een videokaart met 8 GB genoeg?
Voor kleine modellen wel. Het sterkste model dat er ruim draait, is Qwen3.5 4B; het schrijft 53–154 tokens/s, afhankelijk van de kaart. Het is met één klik te installeren vanuit de catalogus van Twoody. Grotere lopen over naar het geheugen van de computer en worden veel trager.
Draait Twoody op Windows met een NVIDIA-kaart?
In de besloten bèta wel: op Windows 10 en 11 (x64) draait Twoody het model via Vulkan op een NVIDIA-kaart als het stuurprogramma dat ondersteunt, en anders op de processor. Laat uw e-mailadres achter op de pagina met platforms om op de wachtlijst te komen.
Het beste lokale LLM per computer
Twoody is in besloten bèta.
Op Mac, Windows en Linux, gratis, zonder account en zonder abonnement — en op iPhone en Android, met Twoody op uw computer. Laat uw e-mailadres achter: we schrijven u zodra Twoody voor u opengaat.