Twoody

LLM locale su Linux

Esegui un LLM in locale su Linux

Un modello linguistico di grandi dimensioni può girare interamente sulla tua macchina Linux: in privato, offline e gratis. Cosa ti serve, quale modello scegliere e il modo più semplice per iniziare, con un'AppImage o un pacchetto .deb.

Perché eseguire un LLM sulla tua macchina

Il modello ti risponde e legge i tuoi file sulla macchina. Una volta installato il modello, funziona senza internet. Senza abbonamento, senza limiti di utilizzo e senza bisogno di un account. Il compromesso: un modello che sta su un computer personale è più piccolo dei più grandi modelli online — eccellente per scrivere, riassumere e lavorare sui tuoi documenti, meno per i ragionamenti più difficili.

Cosa ti serve

Un PC x86_64 con Linux. Sul processore decide la memoria del computer (RAM): 8 GB per circa 4 miliardi di parametri, 16 GB per 8 miliardi, 24 GB per 14 miliardi. Conta la velocità della memoria: con la DDR5 si scrive più in fretta che con la DDR4.

Quale modello scegliere

Qwen3.5 scrive bene in molte lingue, a ogni dimensione; Llama, Gemma, Mistral e gpt-oss sono buone alternative. Sul processore, resta sui modelli piccoli, da circa 4 a 9 miliardi di parametri: uno più grande entra in memoria, ma scrive troppo lentamente per lavorare comodi.

Cosa fa Twoody per te

  • Ti propone il modello adatto alla tua macchina e lo installa con un clic; il suo catalogo ne conta 57, ognuno con la memoria che richiede.
  • Legge le tue cartelle di documenti e le sue risposte citano le fonti, fino alla pagina.
  • Come AppImage o pacchetto .deb, testato su Ubuntu 24.04; il modello gira sul processore.

Cosa cambia rispetto a Mac e Windows

È la stessa app, con le stesse conversazioni e gli stessi documenti. Su Linux, il modello gira sul processore: lì Twoody non usa la scheda grafica. Per ora gli aggiornamenti sono manuali: la nuova versione la scarichi tu. E alcune funzioni ci sono solo sul Mac: la lettura dei PDF scansionati, il Calendario e i Contatti del Mac, la dettatura con il riconoscimento vocale di macOS (su Linux, la tua voce viene trascritta sulla macchina da whisper.cpp, incluso nell'app) e MLX.

Con Twoody, in tre passaggi

  1. 1

    Iscriviti alla lista d'attesa: Twoody è in beta privata, su Linux come sul Mac e su Windows, e ti scriveremo quando sarà aperto per te.

  2. 2

    Installa con un clic il modello che ti propone per la tua macchina: 3,5 GB per Qwen3.5 4B, 6,7 GB per il 9B.

  3. 3

    Fai la tua prima domanda — e spegni il Wi-Fi, se vuoi.

Domande frequenti

Eseguire un LLM in locale su Linux è gratis?

Sì: i modelli aperti si scaricano gratis, e Twoody è gratuito. L'unico costo è la memoria della tua macchina e l'elettricità.

Twoody usa la scheda grafica su Linux?

No: su Linux, Twoody esegue il modello sul processore; resta quindi sui modelli piccoli, da circa 4 a 9 miliardi di parametri. Twoody può usare anche un server compatibile con OpenAI che gira sulla tua macchina sfruttando la scheda grafica: Modelli › «Avanzate» › «Motore» › «Altro indirizzo».

Su quali distribuzioni funziona Twoody?

Twoody è testato su Ubuntu 24.04 (x86_64). L'AppImage funziona sulla maggior parte delle distribuzioni; il pacchetto .deb installa Twoody su Debian, Ubuntu e derivate.

Quanta memoria serve per eseguire un LLM su Linux?

8 GB per un modello piccolo come Qwen3.5 4B. Su Linux, Twoody propone Qwen3.5 9B a partire da 32 GB; da 16 GB puoi sceglierlo tu. Il calcolatore mostra cosa fa girare un PC senza scheda grafica, con memoria DDR4 o DDR5, e a che velocità.

Posso usare Twoody su Linux oggi?

Nella beta privata, sì: Twoody funziona su Linux (x86_64), come sul Mac e su Windows. I download sono riservati a chi partecipa alla beta: lascia la tua email per entrare nella lista d'attesa.

Prova Twoody prima che sia aperto a tutti.

La beta privata è gratuita, su Mac, Windows e Linux, e su iPhone e Android con Twoody sul tuo computer. Lascia la tua email per chiedere un invito: ti scriveremo quando sarà pronto per te.

Un'email di conferma, un'email quando Twoody sarà pronto per te e le novità di Twoody. Annulli l'iscrizione con un clic. Come usiamo il tuo indirizzo.