Twoody
Calculator voor lokale LLM's
Een lokale LLM op een RTX 4070
Met 12 GB eigen geheugen: welke open modellen op een RTX 4070 passen, hoe snel ze schrijven en lezen, en de vergelijking met RTX 5070, RTX 4070 SUPER, RTX 4060 Ti (16 GB) en RTX 3060. Berekend met het geheugen dat de Twoody-app toont en openbare benchmarks van llama.cpp.
Het beste lokale LLM voor een RTX 4070
| Geheugen | Het sterkste dat ruim draait | Schrijft | Standaard voorgesteld door Twoody |
|---|---|---|---|
| 12 GB | Gemma 4 12B Met één klik in Twoody | 41–59 tokens/s | Qwen3.5 9B (7,9 GB) |
De snelheden zijn schattingen, geen metingen met Twoody, berekend op basis van openbare llama.cpp-benchmarks. Cijfers gecontroleerd op 16 oktober 2026.
„Het sterkste dat ruim draait”: het sterkste model dat ruim in het geheugen van de kaart past en minstens op uw leessnelheid schrijft (5 tokens per seconde). „Standaard voorgesteld door Twoody”: het model dat de app als eerste installeert op een pc met deze kaart en 32 GB geheugen, en het geheugen dat het er nodig heeft.
Twoody is in besloten bèta: laat uw e-mailadres achter om toegang aan te vragen.
Alle modellen die goed draaien op een RTX 4070
33 van de 62 modellen die de calculator kent (de catalogus van Twoody en een paar grotere) draaien hier goed, het sterkste eerst: het geheugen dat de Twoody-app voor elk ervan op deze computer aangeeft, hoe snel het schrijft en hoe lang het over het lezen van een document doet.
| Model | Geheugen | Schrijft | Leest een document |
|---|---|---|---|
| Qwen3 14B Met één klik in Twoody | Heeft 11,2 GB geheugen nodig Draait – sluit andere apps | 34–48 tokens/s | 20 pagina's in 11 s |
| Ministral 3 14B Met één klik in Twoody | Heeft 11,6 GB geheugen nodig Draait – sluit andere apps | 36–52 tokens/s | 20 pagina's in 10 s |
| Gemma 4 12B Met één klik in Twoody | Heeft 7,6 GB geheugen nodig Draait ruim | 41–59 tokens/s | 20 pagina's in 9 s |
| GLM-4.6V Flash Met één klik in Twoody | Heeft 7,9 GB geheugen nodig Draait ruim | 47–68 tokens/s | 20 pagina's in 8 s |
| Qwen3.5 9B Met één klik in Twoody | Heeft 7,9 GB geheugen nodig Draait ruim | 40–80 tokens/s | 20 pagina's in 7 s |
| GLM-4 9B Met één klik in Twoody | Heeft 6,7 GB geheugen nodig Draait ruim | 47–68 tokens/s | 20 pagina's in 7 s |
| Ministral 3 8B Met één klik in Twoody | Heeft 8,4 GB geheugen nodig Draait ruim | 55–79 tokens/s | 20 pagina's in 7 s |
| Granite 4.1 8B Met één klik in Twoody | Heeft 8 GB geheugen nodig Draait ruim | 51–73 tokens/s | 20 pagina's in 7 s |
| Qwen3 8B Met één klik in Twoody | Heeft 7,2 GB geheugen nodig Draait ruim | 56–81 tokens/s | 20 pagina's in 6 s |
| Llama 3.1 8B Met één klik in Twoody | Heeft 6,9 GB geheugen nodig Draait ruim | 58–84 tokens/s | 20 pagina's in 6 s |
| Olmo 3 7B Met één klik in Twoody | Heeft 8,2 GB geheugen nodig Draait ruim | 59–85 tokens/s | 20 pagina's in 5 s |
| Gemma 4 E4B Met één klik in Twoody | Heeft 6,6 GB geheugen nodig Draait ruim | 85–123 tokens/s | 20 pagina's in 3 s |
| Qwen3.5 4B Met één klik in Twoody | Heeft 4,9 GB geheugen nodig Draait ruim | 73–146 tokens/s | 20 pagina's in 4 s |
| Qwen3 4B Instruct 2507 Met één klik in Twoody | Heeft 4,9 GB geheugen nodig Draait ruim | 96–138 tokens/s | 20 pagina's in 3 s |
| Nemotron 3 Nano 4B Met één klik in Twoody | Heeft 3,6 GB geheugen nodig Draait ruim | 67–135 tokens/s | 20 pagina's in 3 s |
| Ministral 3 3B Met één klik in Twoody | Heeft 5 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 3 s |
| Phi-4 mini Met één klik in Twoody | Heeft 4,6 GB geheugen nodig Draait ruim | 100–143 tokens/s | 20 pagina's in 3 s |
| Llama 3.2 3B Met één klik in Twoody | Heeft 3,9 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 2 s |
| Gemma 4 E2B Met één klik in Twoody | Heeft 4,7 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 2 s |
| Qwen3.5 2B Met één klik in Twoody | Heeft 2,9 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 2 s |
| Qwen3.5 0.8B Met één klik in Twoody | Heeft 1,7 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 1 s |
| DeepSeek-Coder-V2 Lite Met één klik in Twoody | Heeft 10,4 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 4 s |
| Ministral 3 14B Reasoning Met één klik in Twoody | Heeft 10,5 GB geheugen nodig Draait ruim | 36–52 tokens/s | 20 pagina's in 10 s |
| GLM-Z1 9B Met één klik in Twoody | Heeft 6,7 GB geheugen nodig Draait ruim | 47–68 tokens/s | 20 pagina's in 7 s |
| DeepSeek-R1 8B Met één klik in Twoody | Heeft 7,2 GB geheugen nodig Draait ruim | 56–81 tokens/s | 20 pagina's in 6 s |
| DeepSeek-R1 Distill Llama 8B Met één klik in Twoody | Heeft 6,9 GB geheugen nodig Draait ruim | 58–84 tokens/s | 20 pagina's in 6 s |
| DeepSeek-R1 Distill Qwen 7B Met één klik in Twoody | Heeft 5,5 GB geheugen nodig Draait ruim | 63–90 tokens/s | 20 pagina's in 6 s |
| Qwen3 4B Thinking 2507 Met één klik in Twoody | Heeft 4,9 GB geheugen nodig Draait ruim | 96–138 tokens/s | 20 pagina's in 3 s |
| Phi-4 mini reasoning Met één klik in Twoody | Heeft 4,6 GB geheugen nodig Draait ruim | 100–143 tokens/s | 20 pagina's in 3 s |
| SmolLM3 3B Met één klik in Twoody | Heeft 3,2 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 2 s |
| LFM2.5 2.6B Met één klik in Twoody | Heeft 2,4 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 2 s |
| MiniCPM5 2B Met één klik in Twoody | Heeft 2,5 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 2 s |
| Llama 3.2 1B Met één klik in Twoody | Heeft 1,6 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 1 s |
Daarnaast zouden 23 modellen deels op de processor draaien, veel trager, en zijn er 6 te groot voor deze computer. Bekijk ze allemaal in de calculator.
Het geheugen van elk model is wat Twoody voor deze computer onder ‘Modellen’ toont: dezelfde formule, dezelfde bestanden (ook het bestand om afbeeldingen te lezen), dezelfde gesprekslengte; catalogus gecontroleerd op 15 oktober 2026.
RTX 4070 vergeleken met RTX 5070, RTX 4070 SUPER, RTX 4060 Ti (16 GB) en RTX 3060
| Computer | Geheugen | Qwen3.5 9B schrijft | Leest een document | Het sterkste dat ruim draait |
|---|---|---|---|---|
| RTX 4070 | 12 GB | 40–80 tokens/s | 20 pagina's in 7 s | Gemma 4 12B 41–59 tokens/s |
| RTX 5070 | 12 GB | 55–110 tokens/s | 20 pagina's in 4 s | Gemma 4 12B 56–81 tokens/s |
| RTX 4070 SUPER | 12 GB | 45–89 tokens/s | 20 pagina's in 5 s | Gemma 4 12B 47–67 tokens/s |
| RTX 4060 Ti (16 GB) | 16 GB | 26–51 tokens/s | 20 pagina's in 6 s | Qwen3 14B 21–30 tokens/s |
| RTX 3060 | 12 GB | 32–63 tokens/s | 20 pagina's in 10 s | Gemma 4 12B 33–48 tokens/s |
Het eigen geheugen van de kaart bepaalt welke modellen passen; de bandbreedte, hoe snel ze schrijven. Voor elke pc is 32 GB geheugen naast de kaart aangenomen.
Deze kaart heeft 12 GB eigen geheugen (VRAM), gelezen met 504 GB/s: een model dat er helemaal in past, schrijft snel; een groter model loopt over naar het geheugen van de computer en wordt veel trager.
De tabellen gaan uit van 32 GB geheugen in de pc, naast de kaart. De snelheden zijn die van een model dat op de kaart draait, geschat op basis van openbare benchmarks van llama.cpp.
Twoody voor Windows en Linux is in besloten bèta: op Windows 10 en 11 (x64) draait het het model via Vulkan op de RTX 4070 als het stuurprogramma dat ondersteunt, en anders op de processor; op Linux op de processor. De snelheden op deze pagina zijn schattingen voor een model dat op de kaart draait, geen metingen met Twoody.
Vragen over een LLM lokaal draaien
Welke lokale LLM voor een RTX 4070?
Het sterkste model dat er ruim draait, is Gemma 4 12B; het schrijft 41–59 tokens/s. Het is met één klik te installeren vanuit de catalogus van Twoody. Op een pc met 32 GB geheugen stelt Twoody standaard Qwen3.5 9B voor, dat er 7,9 GB nodig heeft: een van de modellen die Twoody heeft gemeten met zijn geheugen, zijn tools en uw documenten.
Wat past er in de 12 GB van een RTX 4070?
33 van de 62 modellen die de calculator kent (de catalogus van Twoody en een paar grotere) draaien er goed, op de kaart; het grootste is Ministral 3 14B, dat 11,6 GB nodig heeft. Grotere modellen lopen over naar het geheugen van de computer en worden veel trager.
Hoeveel tokens per seconde schrijft een RTX 4070?
Met Qwen3.5 9B, het model dat Twoody er voorstelt: 40–80 tokens/s bij het schrijven, en een document van ongeveer 20 pagina's gelezen in 7 s. Deze snelheden zijn schattingen op basis van openbare benchmarks van llama.cpp, voor een model dat op de kaart draait, geen metingen met Twoody.
RTX 4070 vergeleken met RTX 5070, RTX 4070 SUPER, RTX 4060 Ti (16 GB) en RTX 3060: welke schrijft sneller?
Met Qwen3.5 9B, het model dat Twoody voorstelt: RTX 4070, 40–80 tokens/s; RTX 5070, 55–110 tokens/s; RTX 4070 SUPER, 45–89 tokens/s; RTX 4060 Ti (16 GB), 26–51 tokens/s; RTX 3060, 32–63 tokens/s. Het geheugen van de kaart bepaalt welke modellen passen; de bandbreedte, hoe snel ze schrijven.
Gebruikt Twoody een RTX 4070?
In de besloten bèta, op Windows 10 en 11 (x64), wel: Twoody draait het model via Vulkan op de kaart als het stuurprogramma dat ondersteunt, en anders op de processor. Op Linux draait het het model op de processor. Laat uw e-mailadres achter om op de wachtlijst te komen.
Probeer Twoody voordat het voor iedereen opengaat.
De besloten bèta is gratis, op Mac, Windows en Linux, en op iPhone en Android met Twoody op uw computer. Laat uw e-mailadres achter om een uitnodiging aan te vragen: we schrijven u zodra die voor u klaarstaat.