Calcolatore di LLM locali
Un LLM locale su una RTX 5070
Con 12 GB di memoria propria: quali modelli aperti entrano in una RTX 5070, quanto velocemente scrivono e leggono, e il confronto con RTX 5070 Ti, RTX 4070, RTX 5060 Ti (16 GB) e Radeon RX 9070. Calcolato con la memoria che mostra l'app di Twoody e i benchmark pubblici di llama.cpp.
Il miglior LLM locale per una RTX 5070
| Memoria | Il più potente che gira senza problemi | Scrive | Proposto di base da Twoody |
|---|---|---|---|
| 12 GB | Gemma 4 12B Con un clic in Twoody | 56–81 token/s | Qwen3.5 9B (7,9 GB) |
Le velocità sono stime, non misurazioni fatte con Twoody, calcolate a partire dai benchmark pubblici di llama.cpp. Dati rivisti il 16 ottobre 2026.
«Il più potente che gira senza problemi»: il modello più potente che entra comodamente nella memoria della scheda e scrive almeno alla tua velocità di lettura (5 token al secondo). «Proposto di base da Twoody»: il modello che l'app installa per primo su un PC con questa scheda e 32 GB di memoria, e la memoria che vi richiede.
Twoody è in beta privata: lascia la tua email per richiedere l'accesso.
Tutti i modelli che girano bene su una RTX 5070
33 dei 62 modelli che il calcolatore conosce (il catalogo di Twoody e alcuni più grandi) girano bene qui, il più potente per primo: la memoria che l'app di Twoody indica per ciascuno su questo computer, la velocità con cui scrive e il tempo che impiega a leggere un documento.
| Modello | Memoria | Scrive | Legge un documento |
|---|---|---|---|
| Qwen3 14B Con un clic in Twoody | Richiede 11,2 GB di memoria Gira — chiudi le altre app | 46–66 token/s | 20 pagine in 6 s |
| Ministral 3 14B Con un clic in Twoody | Richiede 11,6 GB di memoria Gira — chiudi le altre app | 50–71 token/s | 20 pagine in 6 s |
| Gemma 4 12B Con un clic in Twoody | Richiede 7,6 GB di memoria Gira senza problemi | 56–81 token/s | 20 pagine in 5 s |
| GLM-4.6V Flash Con un clic in Twoody | Richiede 7,9 GB di memoria Gira senza problemi | 65–94 token/s | 20 pagine in 4 s |
| Qwen3.5 9B Con un clic in Twoody | Richiede 7,9 GB di memoria Gira senza problemi | 55–110 token/s | 20 pagine in 4 s |
| GLM-4 9B Con un clic in Twoody | Richiede 6,7 GB di memoria Gira senza problemi | 65–94 token/s | 20 pagine in 4 s |
| Ministral 3 8B Con un clic in Twoody | Richiede 8,4 GB di memoria Gira senza problemi | 76–109 token/s | 20 pagine in 4 s |
| Granite 4.1 8B Con un clic in Twoody | Richiede 8 GB di memoria Gira senza problemi | 70–101 token/s | 20 pagine in 4 s |
| Qwen3 8B Con un clic in Twoody | Richiede 7,2 GB di memoria Gira senza problemi | 78–112 token/s | 20 pagine in 3 s |
| Llama 3.1 8B Con un clic in Twoody | Richiede 6,9 GB di memoria Gira senza problemi | 80–116 token/s | 20 pagine in 3 s |
| Olmo 3 7B Con un clic in Twoody | Richiede 8,2 GB di memoria Gira senza problemi | 81–117 token/s | 20 pagine in 3 s |
| Gemma 4 E4B Con un clic in Twoody | Richiede 6,6 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 2 s |
| Qwen3.5 4B Con un clic in Twoody | Richiede 4,9 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 2 s |
| Qwen3 4B Instruct 2507 Con un clic in Twoody | Richiede 4,9 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 2 s |
| Nemotron 3 Nano 4B Con un clic in Twoody | Richiede 3,6 GB di memoria Gira senza problemi | 96–192 token/s | 20 pagine in 2 s |
| Ministral 3 3B Con un clic in Twoody | Richiede 5 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 2 s |
| Phi-4 mini Con un clic in Twoody | Richiede 4,6 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 2 s |
| Llama 3.2 3B Con un clic in Twoody | Richiede 3,9 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 1 s |
| Gemma 4 E2B Con un clic in Twoody | Richiede 4,7 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 1 s |
| Qwen3.5 2B Con un clic in Twoody | Richiede 2,9 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 1 s |
| Qwen3.5 0.8B Con un clic in Twoody | Richiede 1,7 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 1 s |
| DeepSeek-Coder-V2 Lite Con un clic in Twoody | Richiede 10,4 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 2 s |
| Ministral 3 14B Reasoning Con un clic in Twoody | Richiede 10,5 GB di memoria Gira senza problemi | 50–71 token/s | 20 pagine in 6 s |
| GLM-Z1 9B Con un clic in Twoody | Richiede 6,7 GB di memoria Gira senza problemi | 65–94 token/s | 20 pagine in 4 s |
| DeepSeek-R1 8B Con un clic in Twoody | Richiede 7,2 GB di memoria Gira senza problemi | 78–112 token/s | 20 pagine in 3 s |
| DeepSeek-R1 Distill Llama 8B Con un clic in Twoody | Richiede 6,9 GB di memoria Gira senza problemi | 80–116 token/s | 20 pagine in 3 s |
| DeepSeek-R1 Distill Qwen 7B Con un clic in Twoody | Richiede 5,5 GB di memoria Gira senza problemi | 86–124 token/s | 20 pagine in 3 s |
| Qwen3 4B Thinking 2507 Con un clic in Twoody | Richiede 4,9 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 2 s |
| Phi-4 mini reasoning Con un clic in Twoody | Richiede 4,6 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 2 s |
| SmolLM3 3B Con un clic in Twoody | Richiede 3,2 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 1 s |
| LFM2.5 2.6B Con un clic in Twoody | Richiede 2,4 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 1 s |
| MiniCPM5 2B Con un clic in Twoody | Richiede 2,5 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 1 s |
| Llama 3.2 1B Con un clic in Twoody | Richiede 1,6 GB di memoria Gira senza problemi | 100+ token/s | 20 pagine in 1 s |
Inoltre, 23 modelli girerebbero in parte sul processore, molto più lenti, e 6 sono troppo grandi per questo computer. Vederli tutti nel calcolatore.
La memoria di ogni modello è quella che Twoody mostra in «Modelli» per questo computer: la stessa formula, gli stessi file (compreso quello che gli fa leggere le immagini), la stessa lunghezza di conversazione; catalogo verificato il 15 ottobre 2026.
RTX 5070 a confronto con RTX 5070 Ti, RTX 4070, RTX 5060 Ti (16 GB) e Radeon RX 9070
| Computer | Memoria | Qwen3.5 9B scrive | Legge un documento | Il più potente che gira senza problemi |
|---|---|---|---|---|
| RTX 5070 | 12 GB | 55–110 token/s | 20 pagine in 4 s | Gemma 4 12B 56–81 token/s |
| RTX 5070 Ti | 16 GB | 76–153 token/s | 20 pagine in 3 s | Qwen3 14B 63–91 token/s |
| RTX 4070 | 12 GB | 40–80 token/s | 20 pagine in 7 s | Gemma 4 12B 41–59 token/s |
| RTX 5060 Ti (16 GB) | 16 GB | 39–78 token/s | 20 pagine in 6 s | Qwen3 14B 32–46 token/s |
| Radeon RX 9070 | 16 GB | 52–103 token/s | 20 pagine in 7 s | Qwen3 14B 43–62 token/s |
La memoria propria della scheda decide quali modelli entrano; la sua larghezza di banda, quanto velocemente scrivono. Ogni PC è considerato con 32 GB di memoria accanto alla scheda.
Questa scheda ha 12 GB di memoria propria (VRAM), letta a 672 GB/s: un modello che vi entra per intero scrive veloce; uno più grande trabocca nella memoria del computer e rallenta molto.
Le tabelle considerano 32 GB di memoria nel PC, accanto alla scheda. Le velocità sono quelle di un modello che gira sulla scheda, stimate dai benchmark pubblici di llama.cpp.
Twoody per Windows e Linux è in beta privata: su Windows 10 e 11 (x64) esegue il modello sulla RTX 5070 tramite Vulkan quando il driver lo supporta, altrimenti sul processore; su Linux, sul processore. Le velocità di questa pagina sono stime per un modello che gira sulla scheda, non misurazioni fatte con Twoody.
Domande sull'uso di un LLM in locale
Quale LLM locale per una RTX 5070?
Il modello più potente che vi gira senza problemi è Gemma 4 12B, che scrive 56–81 token/s. Si installa con un clic dal catalogo di Twoody. Su un PC con 32 GB di memoria, Twoody propone di base Qwen3.5 9B, che vi richiede 7,9 GB: è uno dei modelli che ha misurato con la sua memoria, i suoi strumenti e i tuoi documenti.
Cosa entra nei 12 GB di una RTX 5070?
33 dei 62 modelli che il calcolatore conosce (il catalogo di Twoody e alcuni più grandi) girano bene lì, sulla scheda; il più grande è Ministral 3 14B, che richiede 11,6 GB. Quelli più grandi traboccano nella memoria del computer e rallentano molto.
Quanti token al secondo scrive una RTX 5070?
Con Qwen3.5 9B, il modello che Twoody propone lì, scrive 55–110 token/s e legge un documento di circa 20 pagine in 4 s. Queste velocità sono stime tratte dai benchmark pubblici di llama.cpp, per un modello che gira sulla scheda, non misurazioni fatte con Twoody.
RTX 5070 a confronto con RTX 5070 Ti, RTX 4070, RTX 5060 Ti (16 GB) e Radeon RX 9070: quale scrive più velocemente?
Con Qwen3.5 9B, il modello che Twoody propone: RTX 5070, 55–110 token/s; RTX 5070 Ti, 76–153 token/s; RTX 4070, 40–80 token/s; RTX 5060 Ti (16 GB), 39–78 token/s; Radeon RX 9070, 52–103 token/s. La memoria della scheda decide quali modelli entrano; la sua larghezza di banda, quanto velocemente scrivono.
Twoody usa una RTX 5070?
Nella beta privata, su Windows 10 e 11 (x64), sì: Twoody esegue il modello sulla scheda tramite Vulkan quando il driver lo supporta, altrimenti sul processore. Su Linux, lo esegue sul processore. Lascia la tua email per entrare nella lista d'attesa.
Prova Twoody prima che sia aperto a tutti.
La beta privata è gratuita, su Mac, Windows e Linux, e su iPhone e Android con Twoody sul tuo computer. Lascia la tua email per chiedere un invito: ti scriveremo quando sarà pronto per te.