LLM locale su Linux
Esegui un LLM in locale su Linux
Un modello linguistico di grandi dimensioni può girare interamente sulla tua macchina Linux: in privato, offline e gratis. Cosa ti serve, quale modello scegliere e il modo più semplice per iniziare, con un'AppImage o un pacchetto .deb.
Perché eseguire un LLM sulla tua macchina
Il modello ti risponde e legge i tuoi file sulla macchina. Una volta installato il modello, funziona senza internet. Senza abbonamento, senza limiti di utilizzo e senza bisogno di un account. Il compromesso: un modello che sta su un computer personale è più piccolo dei più grandi modelli online — eccellente per scrivere, riassumere e lavorare sui tuoi documenti, meno per i ragionamenti più difficili.
Cosa ti serve
Un PC x86_64 con Linux. Sul processore decide la memoria del computer (RAM): 8 GB per circa 4 miliardi di parametri, 16 GB per 8 miliardi, 24 GB per 14 miliardi. Conta la velocità della memoria: con la DDR5 si scrive più in fretta che con la DDR4.
Quale modello scegliere
Qwen3.5 scrive bene in molte lingue, a ogni dimensione; Llama, Gemma, Mistral e gpt-oss sono buone alternative. Sul processore, resta sui modelli piccoli, da circa 4 a 9 miliardi di parametri: uno più grande entra in memoria, ma scrive troppo lentamente per lavorare comodi.
Cosa fa Twoody per te
- Ti propone il modello adatto alla tua macchina e lo installa con un clic; il suo catalogo ne conta 57, ognuno con la memoria che richiede.
- Legge le tue cartelle di documenti e le sue risposte citano le fonti, fino alla pagina.
- Come AppImage o pacchetto .deb, testato su Ubuntu 24.04; il modello gira sul processore.
Cosa cambia rispetto a Mac e Windows
È la stessa app, con le stesse conversazioni e gli stessi documenti. Su Linux, il modello gira sul processore: lì Twoody non usa la scheda grafica. Per ora gli aggiornamenti sono manuali: la nuova versione la scarichi tu. E alcune funzioni ci sono solo sul Mac: la lettura dei PDF scansionati, il Calendario e i Contatti del Mac, la dettatura con il riconoscimento vocale di macOS (su Linux, la tua voce viene trascritta sulla macchina da whisper.cpp, incluso nell'app) e MLX.
Con Twoody, in tre passaggi
-
1
Iscriviti alla lista d'attesa: Twoody è in beta privata, su Linux come sul Mac e su Windows, e ti scriveremo quando sarà aperto per te.
-
2
Installa con un clic il modello che ti propone per la tua macchina: 3,5 GB per Qwen3.5 4B, 6,7 GB per il 9B.
-
3
Fai la tua prima domanda — e spegni il Wi-Fi, se vuoi.
Domande frequenti
Eseguire un LLM in locale su Linux è gratis?
Sì: i modelli aperti si scaricano gratis, e Twoody è gratuito. L'unico costo è la memoria della tua macchina e l'elettricità.
Twoody usa la scheda grafica su Linux?
No: su Linux, Twoody esegue il modello sul processore; resta quindi sui modelli piccoli, da circa 4 a 9 miliardi di parametri. Twoody può usare anche un server compatibile con OpenAI che gira sulla tua macchina sfruttando la scheda grafica: Modelli › «Avanzate» › «Motore» › «Altro indirizzo».
Su quali distribuzioni funziona Twoody?
Twoody è testato su Ubuntu 24.04 (x86_64). L'AppImage funziona sulla maggior parte delle distribuzioni; il pacchetto .deb installa Twoody su Debian, Ubuntu e derivate.
Quanta memoria serve per eseguire un LLM su Linux?
8 GB per un modello piccolo come Qwen3.5 4B. Su Linux, Twoody propone Qwen3.5 9B a partire da 32 GB; da 16 GB puoi sceglierlo tu. Il calcolatore mostra cosa fa girare un PC senza scheda grafica, con memoria DDR4 o DDR5, e a che velocità.
Posso usare Twoody su Linux oggi?
Nella beta privata, sì: Twoody funziona su Linux (x86_64), come sul Mac e su Windows. I download sono riservati a chi partecipa alla beta: lascia la tua email per entrare nella lista d'attesa.
Prova Twoody prima che sia aperto a tutti.
La beta privata è gratuita, su Mac, Windows e Linux, e su iPhone e Android con Twoody sul tuo computer. Lascia la tua email per chiedere un invito: ti scriveremo quando sarà pronto per te.