Esegui un LLM in locale sul tuo PC Windows

Perché eseguire un LLM sul tuo PC

Il modello ti risponde e legge i tuoi file sul PC. Funziona senza internet. Senza abbonamento, senza limiti di utilizzo e senza bisogno di un account. Il compromesso: un modello che sta su un PC è più piccolo dei più grandi modelli online — eccellente per scrivere, riassumere e lavorare sui tuoi documenti, meno per i ragionamenti più difficili.

Cosa ti serve

Windows 10 o 11, a 64 bit. Contano due memorie. Sul processore decide la memoria del computer (RAM): 8 GB per circa 4 miliardi di parametri, 16 GB per 8 miliardi, 24 GB per 14 miliardi. Su una scheda grafica decide la sua memoria (VRAM): 8 GB per i modelli da 4 a 8 miliardi di parametri, 16 GB per 14 miliardi o gpt-oss-20b, da 24 a 32 GB per 32 miliardi. Un modello che sta nella scheda grafica scrive molto più in fretta che sul processore.

Quale modello scegliere

Qwen3.5 scrive bene in molte lingue, a ogni dimensione; Llama, Gemma, Mistral e gpt-oss sono buone alternative. Con una scheda grafica, scegli un modello che stia interamente nella sua memoria: uno che sconfina nella memoria del computer rallenta molto. Senza scheda grafica, resta sui modelli piccoli, da circa 4 miliardi di parametri.

Tre modi per farlo

• Twoody — la stessa app che su Mac: ti propone il modello adatto al tuo PC e lo installa con un clic, legge le tue cartelle di documenti e le cita. Il suo programma di installazione è firmato da Osmove; il modello gira sulla scheda grafica tramite Vulkan quando il driver lo consente, altrimenti sul processore.
• LM Studio — un'app per esplorare migliaia di modelli e le loro impostazioni. Un PC x64 con un processore che supporta AVX2, o un PC ARM (Snapdragon X Elite); 16 GB di memoria consigliati.
• Ollama — un motore da usare dal terminale, tramite un'API o con la sua app. Windows 10 22H2 o successivo; usa le schede NVIDIA, e le AMD Radeon tramite ROCm o Vulkan.

Cosa cambia rispetto al Mac

È la stessa app, con le stesse conversazioni e gli stessi documenti. Tre cose ci sono solo sul Mac: la lettura dei PDF scansionati, Contatti e Calendario, e la dettatura con il riconoscimento vocale di macOS — su Windows, la tua voce viene trascritta sul PC da whisper.cpp, incluso nell'app. Come sul Mac, Twoody si aggiorna da solo, dopo un tuo clic.

Con Twoody, in tre passaggi

1. 1

   Iscriviti alla lista d'attesa: Twoody è in beta privata, su Windows come sul Mac e su Linux, e ti scriveremo quando sarà aperto per te.

2. 2

   Installa il modello che ti propone per il tuo PC: 2,8 o 5,8 GB, con un clic.

3. 3

   Fai la tua prima domanda — e spegni il Wi-Fi, se vuoi.