Twoody
Calculator voor lokale LLM's
Een lokale LLM op een RTX 3080
Met 10 GB eigen geheugen: welke open modellen op een RTX 3080 passen, hoe snel ze schrijven en lezen, en de vergelijking met RTX 3090, RTX 4070, RTX 5070 en RTX 3070. Berekend met het geheugen dat de Twoody-app toont en openbare benchmarks van llama.cpp.
Het beste lokale LLM voor een RTX 3080
| Geheugen | Het sterkste dat ruim draait | Schrijft | Standaard voorgesteld door Twoody |
|---|---|---|---|
| 10 GB | Gemma 4 12B Met één klik in Twoody | 62–89 tokens/s | Qwen3.5 9B (7,9 GB) |
De snelheden zijn schattingen, geen metingen met Twoody, berekend op basis van openbare llama.cpp-benchmarks. Cijfers gecontroleerd op 16 oktober 2026.
„Het sterkste dat ruim draait”: het sterkste model dat ruim in het geheugen van de kaart past en minstens op uw leessnelheid schrijft (5 tokens per seconde). „Standaard voorgesteld door Twoody”: het model dat de app als eerste installeert op een pc met deze kaart en 32 GB geheugen, en het geheugen dat het er nodig heeft.
Twoody is in besloten bèta: laat uw e-mailadres achter om toegang aan te vragen.
Alle modellen die goed draaien op een RTX 3080
29 van de 62 modellen die de calculator kent (de catalogus van Twoody en een paar grotere) draaien hier goed, het sterkste eerst: het geheugen dat de Twoody-app voor elk ervan op deze computer aangeeft, hoe snel het schrijft en hoe lang het over het lezen van een document doet.
| Model | Geheugen | Schrijft | Leest een document |
|---|---|---|---|
| Gemma 4 12B Met één klik in Twoody | Heeft 7,6 GB geheugen nodig Draait ruim | 62–89 tokens/s | 20 pagina's in 5 s |
| GLM-4.6V Flash Met één klik in Twoody | Heeft 7,9 GB geheugen nodig Draait ruim | 72–103 tokens/s | 20 pagina's in 4 s |
| Qwen3.5 9B Met één klik in Twoody | Heeft 7,9 GB geheugen nodig Draait ruim | 61–121 tokens/s | 20 pagina's in 4 s |
| GLM-4 9B Met één klik in Twoody | Heeft 6,7 GB geheugen nodig Draait ruim | 72–103 tokens/s | 20 pagina's in 4 s |
| Ministral 3 8B Met één klik in Twoody | Heeft 8,4 GB geheugen nodig Draait ruim | 84–120 tokens/s | 20 pagina's in 4 s |
| Granite 4.1 8B Met één klik in Twoody | Heeft 8 GB geheugen nodig Draait ruim | 77–111 tokens/s | 20 pagina's in 4 s |
| Qwen3 8B Met één klik in Twoody | Heeft 7,2 GB geheugen nodig Draait ruim | 85–122 tokens/s | 20 pagina's in 3 s |
| Llama 3.1 8B Met één klik in Twoody | Heeft 6,9 GB geheugen nodig Draait ruim | 88–127 tokens/s | 20 pagina's in 3 s |
| Olmo 3 7B Met één klik in Twoody | Heeft 8,2 GB geheugen nodig Draait ruim | 89–128 tokens/s | 20 pagina's in 3 s |
| Gemma 4 E4B Met één klik in Twoody | Heeft 6,6 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 2 s |
| Qwen3.5 4B Met één klik in Twoody | Heeft 4,9 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 2 s |
| Qwen3 4B Instruct 2507 Met één klik in Twoody | Heeft 4,9 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 2 s |
| Nemotron 3 Nano 4B Met één klik in Twoody | Heeft 3,6 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 2 s |
| Ministral 3 3B Met één klik in Twoody | Heeft 5 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 2 s |
| Phi-4 mini Met één klik in Twoody | Heeft 4,6 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 2 s |
| Llama 3.2 3B Met één klik in Twoody | Heeft 3,9 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 1 s |
| Gemma 4 E2B Met één klik in Twoody | Heeft 4,7 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 1 s |
| Qwen3.5 2B Met één klik in Twoody | Heeft 2,9 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 1 s |
| Qwen3.5 0.8B Met één klik in Twoody | Heeft 1,7 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 1 s |
| GLM-Z1 9B Met één klik in Twoody | Heeft 6,7 GB geheugen nodig Draait ruim | 72–103 tokens/s | 20 pagina's in 4 s |
| DeepSeek-R1 8B Met één klik in Twoody | Heeft 7,2 GB geheugen nodig Draait ruim | 85–122 tokens/s | 20 pagina's in 3 s |
| DeepSeek-R1 Distill Llama 8B Met één klik in Twoody | Heeft 6,9 GB geheugen nodig Draait ruim | 88–127 tokens/s | 20 pagina's in 3 s |
| DeepSeek-R1 Distill Qwen 7B Met één klik in Twoody | Heeft 5,5 GB geheugen nodig Draait ruim | 95–137 tokens/s | 20 pagina's in 3 s |
| Qwen3 4B Thinking 2507 Met één klik in Twoody | Heeft 4,9 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 2 s |
| Phi-4 mini reasoning Met één klik in Twoody | Heeft 4,6 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 2 s |
| SmolLM3 3B Met één klik in Twoody | Heeft 3,2 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 1 s |
| LFM2.5 2.6B Met één klik in Twoody | Heeft 2,4 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 1 s |
| MiniCPM5 2B Met één klik in Twoody | Heeft 2,5 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 1 s |
| Llama 3.2 1B Met één klik in Twoody | Heeft 1,6 GB geheugen nodig Draait ruim | 100+ tokens/s | 20 pagina's in 1 s |
Daarnaast zouden 27 modellen deels op de processor draaien, veel trager, en zijn er 6 te groot voor deze computer. Bekijk ze allemaal in de calculator.
Het geheugen van elk model is wat Twoody voor deze computer onder ‘Modellen’ toont: dezelfde formule, dezelfde bestanden (ook het bestand om afbeeldingen te lezen), dezelfde gesprekslengte; catalogus gecontroleerd op 15 oktober 2026.
RTX 3080 vergeleken met RTX 3090, RTX 4070, RTX 5070 en RTX 3070
| Computer | Geheugen | Qwen3.5 9B schrijft | Leest een document | Het sterkste dat ruim draait |
|---|---|---|---|---|
| RTX 3080 | 10 GB | 61–121 tokens/s | 20 pagina's in 4 s | Gemma 4 12B 62–89 tokens/s |
| RTX 3090 | 24 GB | 71–143 tokens/s | 20 pagina's in 4 s | Qwen3.6 35B-A3B 100+ tokens/s |
| RTX 4070 | 12 GB | 40–80 tokens/s | 20 pagina's in 7 s | Gemma 4 12B 41–59 tokens/s |
| RTX 5070 | 12 GB | 55–110 tokens/s | 20 pagina's in 4 s | Gemma 4 12B 56–81 tokens/s |
| RTX 3070 | 8 GB | 13–27 tokens/s Deels op de processor: veel trager | 20 pagina's in 28 s | Qwen3.5 4B 62–123 tokens/s |
Het eigen geheugen van de kaart bepaalt welke modellen passen; de bandbreedte, hoe snel ze schrijven. Voor elke pc is 32 GB geheugen naast de kaart aangenomen.
Deze kaart heeft 10 GB eigen geheugen (VRAM), gelezen met 760 GB/s: een model dat er helemaal in past, schrijft snel; een groter model loopt over naar het geheugen van de computer en wordt veel trager.
De tabellen gaan uit van 32 GB geheugen in de pc, naast de kaart. De snelheden zijn die van een model dat op de kaart draait, geschat op basis van openbare benchmarks van llama.cpp.
Twoody voor Windows en Linux is in besloten bèta: op Windows 10 en 11 (x64) draait het het model via Vulkan op de RTX 3080 als het stuurprogramma dat ondersteunt, en anders op de processor; op Linux op de processor. De snelheden op deze pagina zijn schattingen voor een model dat op de kaart draait, geen metingen met Twoody.
Vragen over een LLM lokaal draaien
Welke lokale LLM voor een RTX 3080?
Het sterkste model dat er ruim draait, is Gemma 4 12B; het schrijft 62–89 tokens/s. Het is met één klik te installeren vanuit de catalogus van Twoody. Op een pc met 32 GB geheugen stelt Twoody standaard Qwen3.5 9B voor, dat er 7,9 GB nodig heeft: een van de modellen die Twoody heeft gemeten met zijn geheugen, zijn tools en uw documenten.
Wat past er in de 10 GB van een RTX 3080?
29 van de 62 modellen die de calculator kent (de catalogus van Twoody en een paar grotere) draaien er goed, op de kaart; het grootste is Ministral 3 8B, dat 8,4 GB nodig heeft. Grotere modellen lopen over naar het geheugen van de computer en worden veel trager.
Hoeveel tokens per seconde schrijft een RTX 3080?
Met Qwen3.5 9B, het model dat Twoody er voorstelt: 61–121 tokens/s bij het schrijven, en een document van ongeveer 20 pagina's gelezen in 4 s. Deze snelheden zijn schattingen op basis van openbare benchmarks van llama.cpp, voor een model dat op de kaart draait, geen metingen met Twoody.
RTX 3080 vergeleken met RTX 3090, RTX 4070, RTX 5070 en RTX 3070: welke schrijft sneller?
Met Qwen3.5 9B, het model dat Twoody voorstelt: RTX 3080, 61–121 tokens/s; RTX 3090, 71–143 tokens/s; RTX 4070, 40–80 tokens/s; RTX 5070, 55–110 tokens/s; RTX 3070, 13–27 tokens/s (deels op de processor). Het geheugen van de kaart bepaalt welke modellen passen; de bandbreedte, hoe snel ze schrijven.
Gebruikt Twoody een RTX 3080?
In de besloten bèta, op Windows 10 en 11 (x64), wel: Twoody draait het model via Vulkan op de kaart als het stuurprogramma dat ondersteunt, en anders op de processor. Op Linux draait het het model op de processor. Laat uw e-mailadres achter om op de wachtlijst te komen.
Probeer Twoody voordat het voor iedereen opengaat.
De besloten bèta is gratis, op Mac, Windows en Linux, en op iPhone en Android met Twoody op uw computer. Laat uw e-mailadres achter om een uitnodiging aan te vragen: we schrijven u zodra die voor u klaarstaat.