Calcolatore di LLM locali
Un LLM locale su una RTX 3080
Con 10 GB di memoria propria: quali modelli aperti entrano in una RTX 3080, quanto velocemente scrivono e leggono, e il confronto con RTX 3090, RTX 4070, RTX 5070 e RTX 3070. Calcolato con la memoria che mostra l'app di Twoody e i benchmark pubblici di llama.cpp.
Il miglior LLM locale per una RTX 3080
| Memoria | Il più potente che gira senza problemi | Scrive | Proposto di base da Twoody |
|---|---|---|---|
| 10 GB | Gemma 4 12B Con un clic in Twoody | 62–89 token/s | Qwen3.5 9B (7,9 GB) |
Le velocità sono stime, non misurazioni fatte con Twoody, calcolate a partire dai benchmark pubblici di llama.cpp. Dati rivisti il 16 ottobre 2026.
«Il più potente che gira senza problemi»: il modello più potente che entra comodamente nella memoria della scheda e scrive almeno alla tua velocità di lettura (5 token al secondo). «Proposto di base da Twoody»: il modello che l'app installa per primo su un PC con questa scheda e 32 GB di memoria, e la memoria che vi richiede.
Twoody è in beta privata: lascia la tua email per richiedere l'accesso.
Tutti i modelli che girano bene su una RTX 3080
29 dei 62 modelli che il calcolatore conosce (il catalogo di Twoody e alcuni più grandi) girano bene qui, il più potente per primo: la memoria che l'app di Twoody indica per ciascuno su questo computer, la velocità con cui scrive e il tempo che impiega a leggere un documento.
| Modello | Memoria | Scrive | Legge un documento |
|---|---|---|---|
| Gemma 4 12B Con un clic in Twoody | Richiede 7,6 GB di memoria Gira senza problemi | 62–89 token/s | 20 pagine in 5 s |
| GLM-4.6V Flash Con un clic in Twoody | Richiede 7,9 GB di memoria Gira senza problemi | 72–103 token/s | 20 pagine in 4 s |
| Qwen3.5 9B Con un clic in Twoody | Richiede 7,9 GB di memoria Gira senza problemi | 61–121 token/s | 20 pagine in 4 s |
| GLM-4 9B Con un clic in Twoody | Richiede 6,7 GB di memoria Gira senza problemi | 72–103 token/s | 20 pagine in 4 s |
| Ministral 3 8B Con un clic in Twoody | Richiede 8,4 GB di memoria Gira senza problemi | 84–120 token/s | 20 pagine in 4 s |
| Granite 4.1 8B Con un clic in Twoody | Richiede 8 GB di memoria Gira senza problemi | 77–111 token/s | 20 pagine in 4 s |
| Qwen3 8B Con un clic in Twoody | Richiede 7,2 GB di memoria Gira senza problemi | 85–122 token/s | 20 pagine in 3 s |
| Llama 3.1 8B Con un clic in Twoody | Richiede 6,9 GB di memoria Gira senza problemi | 88–127 token/s | 20 pagine in 3 s |
| Olmo 3 7B Con un clic in Twoody | Richiede 8,2 GB di memoria Gira senza problemi | 89–128 token/s | 20 pagine in 3 s |
| Gemma 4 E4B Con un clic in Twoody | Richiede 6,6 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 2 s |
| Qwen3.5 4B Con un clic in Twoody | Richiede 4,9 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 2 s |
| Qwen3 4B Instruct 2507 Con un clic in Twoody | Richiede 4,9 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 2 s |
| Nemotron 3 Nano 4B Con un clic in Twoody | Richiede 3,6 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 2 s |
| Ministral 3 3B Con un clic in Twoody | Richiede 5 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 2 s |
| Phi-4 mini Con un clic in Twoody | Richiede 4,6 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 2 s |
| Llama 3.2 3B Con un clic in Twoody | Richiede 3,9 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 1 s |
| Gemma 4 E2B Con un clic in Twoody | Richiede 4,7 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 1 s |
| Qwen3.5 2B Con un clic in Twoody | Richiede 2,9 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 1 s |
| Qwen3.5 0.8B Con un clic in Twoody | Richiede 1,7 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 1 s |
| GLM-Z1 9B Con un clic in Twoody | Richiede 6,7 GB di memoria Gira senza problemi | 72–103 token/s | 20 pagine in 4 s |
| DeepSeek-R1 8B Con un clic in Twoody | Richiede 7,2 GB di memoria Gira senza problemi | 85–122 token/s | 20 pagine in 3 s |
| DeepSeek-R1 Distill Llama 8B Con un clic in Twoody | Richiede 6,9 GB di memoria Gira senza problemi | 88–127 token/s | 20 pagine in 3 s |
| DeepSeek-R1 Distill Qwen 7B Con un clic in Twoody | Richiede 5,5 GB di memoria Gira senza problemi | 95–137 token/s | 20 pagine in 3 s |
| Qwen3 4B Thinking 2507 Con un clic in Twoody | Richiede 4,9 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 2 s |
| Phi-4 mini reasoning Con un clic in Twoody | Richiede 4,6 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 2 s |
| SmolLM3 3B Con un clic in Twoody | Richiede 3,2 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 1 s |
| LFM2.5 2.6B Con un clic in Twoody | Richiede 2,4 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 1 s |
| MiniCPM5 2B Con un clic in Twoody | Richiede 2,5 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 1 s |
| Llama 3.2 1B Con un clic in Twoody | Richiede 1,6 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 1 s |
Inoltre, 27 modelli girerebbero in parte sul processore, molto più lenti, e 6 sono troppo grandi per questo computer. Vederli tutti nel calcolatore.
La memoria di ogni modello è quella che Twoody mostra in «Modelli» per questo computer: la stessa formula, gli stessi file (compreso quello che gli fa leggere le immagini), la stessa lunghezza di conversazione; catalogo verificato il 15 ottobre 2026.
RTX 3080 a confronto con RTX 3090, RTX 4070, RTX 5070 e RTX 3070
| Computer | Memoria | Qwen3.5 9B scrive | Legge un documento | Il più potente che gira senza problemi |
|---|---|---|---|---|
| RTX 3080 | 10 GB | 61–121 token/s | 20 pagine in 4 s | Gemma 4 12B 62–89 token/s |
| RTX 3090 | 24 GB | 71–143 token/s | 20 pagine in 4 s | Qwen3.6 35B-A3B 100+ token/s |
| RTX 4070 | 12 GB | 40–80 token/s | 20 pagine in 7 s | Gemma 4 12B 41–59 token/s |
| RTX 5070 | 12 GB | 55–110 token/s | 20 pagine in 4 s | Gemma 4 12B 56–81 token/s |
| RTX 3070 | 8 GB | 13–27 token/s In parte sul processore: molto più lento | 20 pagine in 28 s | Qwen3.5 4B 62–123 token/s |
La memoria propria della scheda decide quali modelli entrano; la sua larghezza di banda, quanto velocemente scrivono. Ogni PC è considerato con 32 GB di memoria accanto alla scheda.
Questa scheda ha 10 GB di memoria propria (VRAM), letta a 760 GB/s: un modello che vi entra per intero scrive veloce; uno più grande trabocca nella memoria del computer e rallenta molto.
Le tabelle considerano 32 GB di memoria nel PC, accanto alla scheda. Le velocità sono quelle di un modello che gira sulla scheda, stimate dai benchmark pubblici di llama.cpp.
Twoody per Windows e Linux è in beta privata: su Windows 10 e 11 (x64) esegue il modello sulla RTX 3080 tramite Vulkan quando il driver lo supporta, altrimenti sul processore; su Linux, sul processore. Le velocità di questa pagina sono stime per un modello che gira sulla scheda, non misurazioni fatte con Twoody.
Domande sull'uso di un LLM in locale
Quale LLM locale per una RTX 3080?
Il modello più potente che vi gira senza problemi è Gemma 4 12B, che scrive 62–89 token/s. Si installa con un clic dal catalogo di Twoody. Su un PC con 32 GB di memoria, Twoody propone di base Qwen3.5 9B, che vi richiede 7,9 GB: è uno dei modelli che ha misurato con la sua memoria, i suoi strumenti e i tuoi documenti.
Cosa entra nei 10 GB di una RTX 3080?
29 dei 62 modelli che il calcolatore conosce (il catalogo di Twoody e alcuni più grandi) girano bene lì, sulla scheda; il più grande è Ministral 3 8B, che richiede 8,4 GB. Quelli più grandi traboccano nella memoria del computer e rallentano molto.
Quanti token al secondo scrive una RTX 3080?
Con Qwen3.5 9B, il modello che Twoody propone lì, scrive 61–121 token/s e legge un documento di circa 20 pagine in 4 s. Queste velocità sono stime tratte dai benchmark pubblici di llama.cpp, per un modello che gira sulla scheda, non misurazioni fatte con Twoody.
RTX 3080 a confronto con RTX 3090, RTX 4070, RTX 5070 e RTX 3070: quale scrive più velocemente?
Con Qwen3.5 9B, il modello che Twoody propone: RTX 3080, 61–121 token/s; RTX 3090, 71–143 token/s; RTX 4070, 40–80 token/s; RTX 5070, 55–110 token/s; RTX 3070, 13–27 token/s (in parte sul processore). La memoria della scheda decide quali modelli entrano; la sua larghezza di banda, quanto velocemente scrivono.
Twoody usa una RTX 3080?
Nella beta privata, su Windows 10 e 11 (x64), sì: Twoody esegue il modello sulla scheda tramite Vulkan quando il driver lo supporta, altrimenti sul processore. Su Linux, lo esegue sul processore. Lascia la tua email per entrare nella lista d'attesa.
Prova Twoody prima che sia aperto a tutti.
La beta privata è gratuita, su Mac, Windows e Linux, e su iPhone e Android con Twoody sul tuo computer. Lascia la tua email per chiedere un invito: ti scriveremo quando sarà pronto per te.