Twoody
Calculator voor lokale LLM's
Welk lokaal LLM draait op uw computer – en hoe snel?
Kies uw Mac of pc. Zie welke open modellen in het geheugen passen, hoe snel ze schrijven, hoe lang ze over een document doen en waar ze goed in zijn.
De modellen voor deze computer
Op een MacBook Air, MacBook Pro 13″ (Intel, 2018–2020) met 8 GB: 16 van de 62 modellen draaien goed.
Wat Twoody voor deze Mac voorstelt
Qwen3.5 4B, met één klik, voor gesprekken tot 8k tokens.
Heeft 4 GB geheugen nodig · Draait – sluit andere apps · 5,1–9,2 tokens/s (ongeveer uw leestempo) · 12 pagina's in 3 min
Op een Intel-Mac draait het model op de processor: het werkt, maar langzaam.
Draaien goed op deze computer
4 van 4 GB
Draait – sluit andere apps
5,1–9,2 tokens/s
ongeveer uw leestempo
12 pagina's in 3 min
- Chatten en schrijven
- Vertalen
3,8 van 4 GB
Draait – sluit andere apps
6,4–11 tokens/s
ongeveer uw leestempo
12 pagina's in 2 min
- Chatten en schrijven
- Vertalen
3,1 van 4 GB
Draait – sluit andere apps
5–9 tokens/s
ongeveer uw leestempo
12 pagina's in 2 min
- Chatten en schrijven
4,2 van 4 GB
Draait – sluit andere apps
7,5–13 tokens/s
sneller dan u leest
12 pagina's in 2 min
- Chatten en schrijven
- Vertalen
3,6 van 4 GB
Draait – sluit andere apps
6,5–12 tokens/s
ongeveer uw leestempo
12 pagina's in 2 min
- Chatten en schrijven
- Vertalen
3,1 van 4 GB
Draait – sluit andere apps
7,9–14 tokens/s
sneller dan u leest
12 pagina's in 2 min
- Chatten en schrijven
- Vertalen
4,7 van 4 GB
Draait – sluit andere apps
11–19 tokens/s
sneller dan u leest
12 pagina's in 75 s
2,6 van 4 GB
Draait – sluit andere apps
10–18 tokens/s
sneller dan u leest
12 pagina's in 79 s
1,4 van 4 GB
Draait ruim
17–50 tokens/s
bijna meteen
12 pagina's in 31 s
5,1 van 4 GB
Draait – sluit andere apps
3,6–6,5 tokens/s
ongeveer uw leestempo
12 pagina's in 4 min
- Chatten en schrijven
- Uw documenten
- Vertalen
- Redeneren
3,8 van 4 GB
Draait – sluit andere apps
6,4–11 tokens/s
ongeveer uw leestempo
12 pagina's in 2 min
- Chatten en schrijven
- Vertalen
3,6 van 4 GB
Draait – sluit andere apps
6,5–12 tokens/s
ongeveer uw leestempo
12 pagina's in 2 min
- Chatten en schrijven
2,6 van 4 GB
Draait – sluit andere apps
8,4–15 tokens/s
sneller dan u leest
12 pagina's in 2 min
- Chatten en schrijven
- Vertalen
1,9 van 4 GB
Draait ruim
8,4–15 tokens/s
sneller dan u leest
12 pagina's in 2 min
2,1 van 4 GB
Draait – sluit andere apps
10–18 tokens/s
sneller dan u leest
12 pagina's in 81 s
1,3 van 4 GB
Draait ruim
14–43 tokens/s
bijna meteen
12 pagina's in 39 s
Te groot voor deze computer (46)
- DeepSeek-R1 Distill Llama 8B · 5,9 van 4 GB
- Llama 3.1 8B · 5,9 van 4 GB
- DeepSeek-R1 8B · 6,1 van 4 GB
- Qwen3 8B · 6,1 van 4 GB
- GLM-4 9B · 6,4 van 4 GB
- GLM-Z1 9B · 6,4 van 4 GB
- Gemma 4 E4B · 6,5 van 4 GB
- Granite 4.1 8B · 6,7 van 4 GB
- Qwen3.5 9B · 7 van 4 GB
- Olmo 3 7B · 7,2 van 4 GB
- Ministral 3 8B · 7,3 van 4 GB
- Gemma 4 12B · 7,6 van 4 GB
- GLM-4.6V Flash · 7,6 van 4 GB
- Ministral 3 14B Reasoning · 9,2 van 4 GB
- Qwen3 14B · 9,9 van 4 GB
- DeepSeek-R1 Distill Qwen 14B · 10,2 van 4 GB
- DeepSeek-Coder-V2 Lite · 10,2 van 4 GB
- Phi-4 14B · 10,3 van 4 GB
- Phi-4 reasoning plus · 10,3 van 4 GB
- Ministral 3 14B · 10,3 van 4 GB
- gpt-oss 20B · 11,8 van 4 GB
- Magistral Small 1.2 · 14,9 van 4 GB
- Devstral Small 2 24B · 14,9 van 4 GB
- Gemma 4 26B (A4B) · 15,4 van 4 GB
- Mistral Small 3.2 24B · 16 van 4 GB
- Qwen3.6 35B-A3B · 16,3 van 4 GB
- GLM-4.7 Flash · 17,7 van 4 GB
- Qwen3-Coder 30B-A3B · 18,3 van 4 GB
- Qwen3 30B-A3B Thinking 2507 · 18,4 van 4 GB
- Qwen3 30B-A3B Instruct 2507 · 18,4 van 4 GB
- Qwen3.5 27B · 18,6 van 4 GB
- Gemma 4 31B · 19,1 van 4 GB
- GLM-4 32B · 19,1 van 4 GB
- Qwen3.8 27B · 19,5 van 4 GB
- Qwen3.6 27B · 19,7 van 4 GB
- Qwen3.6 35B-A3B (4 bits) · 20,6 van 4 GB
- Qwen3 32B · 20,7 van 4 GB
- DeepSeek-R1 Distill Qwen 32B · 20,8 van 4 GB
- Nemotron 3 Nano 30B-A3B · 21,3 van 4 GB
- Qwen3.5 35B-A3B · 22,3 van 4 GB
- Llama 3.3 70B · 42,4 van 4 GB
- Qwen3-Next 80B-A3B · 45,6 van 4 GB · Niet in de catalogus van Twoody
- gpt-oss 120B · 59,6 van 4 GB · Niet in de catalogus van Twoody
- Mistral Small 4 119B · 69,2 van 4 GB · Niet in de catalogus van Twoody
- Qwen3.5 122B-A10B · 74 van 4 GB · Niet in de catalogus van Twoody
- Qwen3 235B-A22B Instruct 2507 · 134,6 van 4 GB · Niet in de catalogus van Twoody
Het geheugen van elk model is wat Twoody voor deze computer onder ‘Modellen’ toont: dezelfde formule, dezelfde bestanden (ook het bestand om afbeeldingen te lezen), dezelfde gesprekslengte; catalogus gecontroleerd op 15 oktober 2026. De snelheden zijn schattingen, geen metingen met Twoody, berekend op basis van openbare llama.cpp-benchmarks. Cijfers gecontroleerd op 16 oktober 2026.
Hoeveel geheugen heeft u nodig voor een lokaal LLM?
Het geheugen bepaalt welke modellen passen: het modelbestand en het bestand waarmee het afbeeldingen leest, het gesprek dat het model onthoudt (8k tot 64k tokens, afhankelijk van het geheugen van de computer, zoals in Twoody) en wat ruimte om te werken. Een Mac laat de grafische chip ongeveer twee derde van het geheugen gebruiken tot 32 GB, daarboven driekwart. Dit draait ruim:
| Geheugen | De sterkste die ruim draaien | Standaard voorgesteld door Twoody |
|---|---|---|
| 8 GB | Qwen3.5 4B, Qwen3 4B Instruct 2507, Nemotron 3 Nano 4B | Qwen3.5 4B (4 GB) |
| 16 GB | Gemma 4 12B, GLM-4.6V Flash, Qwen3.5 9B | Qwen3.5 9B (7,4 GB) |
| 24 GB | Qwen3 14B, Phi-4 14B, Ministral 3 14B | Qwen3.5 9B (7,4 GB) |
| 32 GB | Qwen3.6 35B-A3B, Gemma 4 31B, Qwen3 30B-A3B Instruct 2507 | Qwen3.5 9B (7,9 GB) |
| 48 GB | Qwen3.6 35B-A3B, Qwen3.6 35B-A3B (4 bits), Qwen3.5 35B-A3B | Qwen3.5 9B (7,9 GB) |
| 64 GB | Qwen3-Next 80B-A3B*, Llama 3.3 70B, Qwen3.6 35B-A3B | Qwen3.5 9B (7,9 GB) |
| 128 GB | Qwen3.5 122B-A10B*, Mistral Small 4 119B*, Qwen3-Next 80B-A3B* | Qwen3.5 9B (7,9 GB) |
| 256 GB | Qwen3 235B-A22B Instruct 2507*, Qwen3.5 122B-A10B*, Mistral Small 4 119B* | Qwen3.5 9B (7,9 GB) |
| 512 GB | Qwen3 235B-A22B Instruct 2507*, Qwen3.5 122B-A10B*, Mistral Small 4 119B* | Qwen3.5 9B (7,9 GB) |
* Niet in de catalogus van Twoody; de andere zijn met één klik te installeren.
Waarom de geheugenbandbreedte de snelheid bepaalt
Voor elk woord dat hij schrijft, leest de computer de actieve gewichten van het model uit het geheugen. De snelheid hangt dus meer af van de geheugenbandbreedte dan van de rekenkracht van de processor. Qwen3 8B, 4-bit, op een paar machines:
| Computer | Geheugenbandbreedte | Schrijft |
|---|---|---|
| M1 | 68 GB/s | 8,7–12 tokens/s |
| M2 | 100 GB/s | 13–19 tokens/s |
| M4 | 120 GB/s | 15–21 tokens/s |
| M5 | 153 GB/s | 19–27 tokens/s |
| M4 Pro | 273 GB/s | 31–45 tokens/s |
| M4 Max | 546 GB/s | 53–76 tokens/s |
| M5 Max | 614 GB/s | 72–104 tokens/s |
| GeForce RTX 4090 (24 GB) | 1 008 GB/s | 100+ tokens/s |
4-bit of 8-bit?
Modellen worden gecomprimeerd gedeeld. 4-bit-bestanden (Q4_K_M, Q4_0 voor Gemma, MXFP4 voor gpt-oss) zijn half zo groot als 8-bit-bestanden, met een klein kwaliteitsverlies: dat is wat Twoody installeert (in 3-bit voor het grotere Qwen3.6 35B-A3B, zodat het op een Mac met 24 GB past) en wat deze calculator telt. 8-bit is iets nauwkeuriger en heeft twee keer zoveel geheugen nodig.
Tokens per seconde: hoe dat aanvoelt
Een token is een stukje van een woord: in het Engels ongeveer driekwart woord, in het Nederlands iets minder. Als u stil leest, haalt u ongeveer 5 tot 6 tokens per seconde.
| minder dan 5 | langzamer dan u leest |
| 5 tot 10 | ongeveer uw leestempo |
| 10 tot 20 | sneller dan u leest |
| 20 tot 50 | bijna meteen |
| meer dan 50 | voelt meteen aan |
Een model dat eerst nadenkt, schrijft vóór zijn antwoord 300 tot 3.000 tokens aan redenering: bij 10 tokens per seconde een halve minuut tot vijf minuten. In Twoody bepalen de standen “Snel”, “Nadenken” en “Diep” hoe lang het nadenkt.
Een document lezen
Voordat het model een vraag over een document beantwoordt, leest het dat document – en juist daar winnen recente chips het meest. Qwen3 8B leest een document van 20 pagina's, met 16 GB:
| M1 | 3 min |
| M4 | 76 s |
| M5 | 27 s |
Mac of pc?
Een Mac deelt zijn geheugen tussen de processor en de grafische chip: een Mac met 64 GB draait modellen die op geen enkele videokaart met 24 GB passen. Een videokaart in een pc heeft minder geheugen, maar leest het heel snel: met een model dat past, schrijft een RTX 4090 sneller dan welke Mac ook. Twoody is in besloten bèta op Mac, Windows en Linux: op Windows gebruikt het de videokaart via Vulkan als het stuurprogramma dat ondersteunt; op Linux draait het model op de processor.
Het beste lokale LLM per computer
Methode en bronnen
Het geheugen is geen schatting van deze site: het is de berekening van de Twoody-app, met dezelfde bestanden en dezelfde gesprekslengte: het modelbestand, het bestand waarmee het afbeeldingen leest en 0,3 GB om dat te gebruiken, het gesprek (in q8_0, 8-bit, voor een hybride model zoals Qwen3.5; anders 16-bit), de toestand van de recurrente lagen en 0,3 GB werkgeheugen. Gemeten met llama.cpp neemt Qwen3.5 9B bij een gesprek van 32k tokens 7,4 GB in beslag, zoals berekend. De modellen zijn die van de catalogus van Twoody, gecontroleerd op Hugging Face op 15 oktober 2026, en enkele grotere die Twoody niet aanbiedt, op dezelfde manier berekend.
De snelheid van elke machine wordt berekend uit haar gemeten snelheid met het referentiemodel van llama.cpp (LLaMA 2 7B, 4-bit), geschaald naar wat elk model per woord leest, met de geheugenbandbreedtes uit de specificaties van Apple en NVIDIA. Gecontroleerd aan de hand van 20 gepubliceerde metingen die niet voor de berekening zijn gebruikt: mediane afwijking 4,5%, hoogstens 23%, alle binnen de getoonde marges.
Cijfers gecontroleerd op 16 oktober 2026.
Bronnen
- www.apple.com/newsroom/
- support.apple.com/specs
- github.com/ggml-org/llama.cpp/discussions/4167
- github.com/ggml-org/llama.cpp/discussions/15013
- github.com/ggml-org/llama.cpp/discussions/10879
- github.com/ggml-org/llama.cpp/discussions/15396
- www.nvidia.com/en-us/geforce/graphics-cards/compare/
- huggingface.co/models
- www.sciencedirect.com/science/article/abs/pii/S0749596X19300786
Vragen over een LLM lokaal draaien
Kan ik een lokaal LLM draaien met 8 GB geheugen?
Ja, een klein model. Op een Mac met Apple-chip en 8 GB zijn de sterkste modellen die ruim draaien Qwen3.5 4B, Qwen3 4B Instruct 2507 en Nemotron 3 Nano 4B. Ze zijn allemaal met één klik te installeren vanuit de catalogus van Twoody. Twoody stelt standaard Qwen3.5 4B voor, dat er 4 GB geheugen nodig heeft: een van de modellen die Twoody heeft gemeten met zijn geheugen, zijn tools en uw documenten. Sluit zware apps terwijl u het gebruikt.
Welk LLM voor een Mac met 16 GB?
Op een Mac met Apple-chip en 16 GB zijn de sterkste modellen die ruim draaien Gemma 4 12B, GLM-4.6V Flash en Qwen3.5 9B. Ze zijn allemaal met één klik te installeren vanuit de catalogus van Twoody. Twoody stelt standaard Qwen3.5 9B voor, dat er 7,4 GB geheugen nodig heeft: een van de modellen die Twoody heeft gemeten met zijn geheugen, zijn tools en uw documenten.
Hoeveel geheugen heeft een 70B-model nodig?
Ongeveer 45 GB in Twoody, voor een gesprek van 16k tokens: een Mac met 64 GB draait Llama 3.3 70B, met 4,2–15 tokens/s, afhankelijk van de chip. Mixture-of-experts-modellen zoals gpt-oss 120B hebben meer geheugen nodig (60 GB), maar schrijven veel sneller.
Is een 4-bit-model veel slechter dan een 8-bit-model?
Een beetje. Bij schrijven, samenvattingen en vragen over documenten merkt u het verschil nauwelijks, en 4-bit halveert het geheugen en verdubbelt de snelheid: dat installeert Twoody, en dat telt deze calculator.
Mac of NVIDIA-videokaart voor een lokaal LLM?
Een videokaart schrijft sneller met een model dat in haar geheugen past (8 tot 32 GB); een Mac houdt veel grotere modellen in zijn gedeelde geheugen (tot 512 GB). Voor één persoon die met documenten werkt, is een Mac met 16 tot 64 GB de eenvoudigste keuze.
Wordt een MacBook Air te warm van een lokaal LLM?
Een MacBook Air heeft geen ventilator: na een paar minuten onafgebroken schrijven vertraagt hij om koel te blijven. Bij antwoorden van normale lengte merkt u dat niet; voor lange sessies houdt een MacBook Pro of een Mac mini zijn snelheid vast.
Moet ik naast Twoody nog iets anders installeren?
Nee: Twoody downloadt het model en draait het met een eigen engine, llama.cpp, met één klik. Op een Mac met Apple-chip kan het ook MLX installeren, de engine van Apple, als u daarom vraagt (Modellen › ‘Geavanceerd’).
Hoe nauwkeurig zijn deze cijfers?
Het geheugen is wat de Twoody-app toont, op dezelfde manier berekend: voor Qwen3.5 9B met een gesprek van 32k tokens mat llama.cpp 7,4 GB, zoals berekend. De snelheden zijn schattingen: op 20 gepubliceerde metingen die niet voor de formule zijn gebruikt, is de mediane afwijking 4,5% en de grootste 23%; elke meting viel binnen de getoonde marge. Uw snelheid hangt ook af van de app, de versie ervan en wat de computer verder nog doet.
Twoody is in besloten bèta.
Op Mac, Windows en Linux, gratis, zonder account en zonder abonnement — en op iPhone en Android, met Twoody op uw computer. Laat uw e-mailadres achter: we schrijven u zodra Twoody voor u opengaat.