Een LLM lokaal draaien op uw Mac

Waarom een LLM op uw Mac

Het model antwoordt en leest uw bestanden op de computer zelf. Zodra het model is geïnstalleerd, werkt het zonder internet. Er is geen abonnement, geen limiet en geen account nodig. De keerzijde: een model dat op een Mac past, is kleiner dan de grootste online modellen — uitstekend voor schrijven, samenvattingen en uw documenten, minder voor het moeilijkste denkwerk.

Wat u nodig heeft

Een Mac met Apple Silicon (M1 of nieuwer) draait modellen zonder moeite; een Intel-Mac draait kleine modellen, langzaam, op zijn processor. Het werkgeheugen bepaalt het model, zoals Twoody het rekent: 8 GB voor ongeveer 4 miljard parameters, 16 GB voor 8 miljard, 24 GB voor 14 miljard, 32 tot 36 GB voor 24 tot 35 miljard in 4-bit, 64 GB voor 70 miljard.

Welk model u kiest

Qwen3.5 schrijft in elke grootte goed, en in veel talen; Llama, Gemma, Mistral en gpt-oss zijn goede alternatieven. Begin met het model dat ruim in uw werkgeheugen past: een groter model waardoor uw Mac moet uitwijken naar de schijf, is trager dan een kleiner.

Wat Twoody voor u doet

• Het stelt het model voor dat bij uw Mac past en installeert het met één klik; de catalogus telt er 57, elk met het geheugen dat het vraagt.
• Het leest uw documentmappen, en de antwoorden vermelden hun bronnen, tot op de pagina.
• Het draait zowel op Intel-Macs als op Macs met Apple-chip, met macOS 13.3 of nieuwer; op een Apple-chip met macOS 14 kan het ook MLX installeren, de engine van Apple. En het bestaat ook voor Windows en Linux.

Met Twoody, in drie stappen

1. 1

   Schrijf u in op de wachtlijst: Twoody is in besloten bèta, op de Mac net als op Windows en Linux, en we schrijven u zodra het voor u opengaat.

2. 2

   Installeer met één klik het model dat Twoody voor uw Mac voorstelt: 3,5 GB voor Qwen3.5 4B, 6,7 GB voor de 9B.

3. 3

   Stel uw eerste vraag — en zet wifi uit als u wilt.