Twoody
Rechner für lokale LLMs
Ein lokales LLM auf der RTX 4070
Mit 12 GB eigenem Speicher: welche offenen Modelle in die RTX 4070 passen, wie schnell sie schreiben und lesen, und der Vergleich mit RTX 5070, RTX 4070 SUPER, RTX 4060 Ti (16 GB) und RTX 3060. Berechnet mit dem Speicher, den die Twoody-App anzeigt, und öffentlichen llama.cpp-Benchmarks.
Das beste lokale LLM für die RTX 4070
| Arbeitsspeicher | Stärkstes Modell, das problemlos läuft | Schreibt | Von Twoody vorgeschlagen |
|---|---|---|---|
| 12 GB | Gemma 4 12B Mit einem Klick in Twoody | 41–59 Token/s | Qwen3.5 9B (7,9 GB) |
Die Geschwindigkeiten sind Schätzungen, keine mit Twoody gemessenen Werte, berechnet aus öffentlichen llama.cpp-Benchmarks. Zahlen geprüft am 16. Oktober 2026.
„Stärkstes Modell, das problemlos läuft“: das stärkste Modell, das bequem in den Speicher der Karte passt und mindestens in Ihrem Lesetempo schreibt (5 Token pro Sekunde). „Von Twoody vorgeschlagen“: das Modell, das die App auf einem PC mit dieser Karte und 32 GB Arbeitsspeicher zuerst installiert, und der Speicher, den es dort braucht.
Twoody ist in der privaten Beta: Hinterlassen Sie Ihre E-Mail-Adresse, um Zugang anzufragen.
Alle Modelle, die auf der RTX 4070 gut laufen
33 der 62 Modelle, die der Rechner kennt (der Katalog von Twoody und einige größere), laufen hier gut, das stärkste zuerst: der Speicher, den die Twoody-App für jedes auf diesem Computer angibt, wie schnell es schreibt und wie lange es braucht, um ein Dokument zu lesen.
| Modell | Speicher | Schreibt | Liest ein Dokument |
|---|---|---|---|
| Qwen3 14B Mit einem Klick in Twoody | Braucht 11,2 GB Arbeitsspeicher Läuft – andere Apps schließen | 34–48 Token/s | 20 Seiten in 11 s |
| Ministral 3 14B Mit einem Klick in Twoody | Braucht 11,6 GB Arbeitsspeicher Läuft – andere Apps schließen | 36–52 Token/s | 20 Seiten in 10 s |
| Gemma 4 12B Mit einem Klick in Twoody | Braucht 7,6 GB Arbeitsspeicher Läuft problemlos | 41–59 Token/s | 20 Seiten in 9 s |
| GLM-4.6V Flash Mit einem Klick in Twoody | Braucht 7,9 GB Arbeitsspeicher Läuft problemlos | 47–68 Token/s | 20 Seiten in 8 s |
| Qwen3.5 9B Mit einem Klick in Twoody | Braucht 7,9 GB Arbeitsspeicher Läuft problemlos | 40–80 Token/s | 20 Seiten in 7 s |
| GLM-4 9B Mit einem Klick in Twoody | Braucht 6,7 GB Arbeitsspeicher Läuft problemlos | 47–68 Token/s | 20 Seiten in 7 s |
| Ministral 3 8B Mit einem Klick in Twoody | Braucht 8,4 GB Arbeitsspeicher Läuft problemlos | 55–79 Token/s | 20 Seiten in 7 s |
| Granite 4.1 8B Mit einem Klick in Twoody | Braucht 8 GB Arbeitsspeicher Läuft problemlos | 51–73 Token/s | 20 Seiten in 7 s |
| Qwen3 8B Mit einem Klick in Twoody | Braucht 7,2 GB Arbeitsspeicher Läuft problemlos | 56–81 Token/s | 20 Seiten in 6 s |
| Llama 3.1 8B Mit einem Klick in Twoody | Braucht 6,9 GB Arbeitsspeicher Läuft problemlos | 58–84 Token/s | 20 Seiten in 6 s |
| Olmo 3 7B Mit einem Klick in Twoody | Braucht 8,2 GB Arbeitsspeicher Läuft problemlos | 59–85 Token/s | 20 Seiten in 5 s |
| Gemma 4 E4B Mit einem Klick in Twoody | Braucht 6,6 GB Arbeitsspeicher Läuft problemlos | 85–123 Token/s | 20 Seiten in 3 s |
| Qwen3.5 4B Mit einem Klick in Twoody | Braucht 4,9 GB Arbeitsspeicher Läuft problemlos | 73–146 Token/s | 20 Seiten in 4 s |
| Qwen3 4B Instruct 2507 Mit einem Klick in Twoody | Braucht 4,9 GB Arbeitsspeicher Läuft problemlos | 96–138 Token/s | 20 Seiten in 3 s |
| Nemotron 3 Nano 4B Mit einem Klick in Twoody | Braucht 3,6 GB Arbeitsspeicher Läuft problemlos | 67–135 Token/s | 20 Seiten in 3 s |
| Ministral 3 3B Mit einem Klick in Twoody | Braucht 5 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 3 s |
| Phi-4 mini Mit einem Klick in Twoody | Braucht 4,6 GB Arbeitsspeicher Läuft problemlos | 100–143 Token/s | 20 Seiten in 3 s |
| Llama 3.2 3B Mit einem Klick in Twoody | Braucht 3,9 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 2 s |
| Gemma 4 E2B Mit einem Klick in Twoody | Braucht 4,7 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 2 s |
| Qwen3.5 2B Mit einem Klick in Twoody | Braucht 2,9 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 2 s |
| Qwen3.5 0.8B Mit einem Klick in Twoody | Braucht 1,7 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| DeepSeek-Coder-V2 Lite Mit einem Klick in Twoody | Braucht 10,4 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 4 s |
| Ministral 3 14B Reasoning Mit einem Klick in Twoody | Braucht 10,5 GB Arbeitsspeicher Läuft problemlos | 36–52 Token/s | 20 Seiten in 10 s |
| GLM-Z1 9B Mit einem Klick in Twoody | Braucht 6,7 GB Arbeitsspeicher Läuft problemlos | 47–68 Token/s | 20 Seiten in 7 s |
| DeepSeek-R1 8B Mit einem Klick in Twoody | Braucht 7,2 GB Arbeitsspeicher Läuft problemlos | 56–81 Token/s | 20 Seiten in 6 s |
| DeepSeek-R1 Distill Llama 8B Mit einem Klick in Twoody | Braucht 6,9 GB Arbeitsspeicher Läuft problemlos | 58–84 Token/s | 20 Seiten in 6 s |
| DeepSeek-R1 Distill Qwen 7B Mit einem Klick in Twoody | Braucht 5,5 GB Arbeitsspeicher Läuft problemlos | 63–90 Token/s | 20 Seiten in 6 s |
| Qwen3 4B Thinking 2507 Mit einem Klick in Twoody | Braucht 4,9 GB Arbeitsspeicher Läuft problemlos | 96–138 Token/s | 20 Seiten in 3 s |
| Phi-4 mini reasoning Mit einem Klick in Twoody | Braucht 4,6 GB Arbeitsspeicher Läuft problemlos | 100–143 Token/s | 20 Seiten in 3 s |
| SmolLM3 3B Mit einem Klick in Twoody | Braucht 3,2 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 2 s |
| LFM2.5 2.6B Mit einem Klick in Twoody | Braucht 2,4 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 2 s |
| MiniCPM5 2B Mit einem Klick in Twoody | Braucht 2,5 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 2 s |
| Llama 3.2 1B Mit einem Klick in Twoody | Braucht 1,6 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
Außerdem würden 23 Modelle teilweise auf dem Prozessor laufen, deutlich langsamer, und 6 sind zu groß für diesen Computer. Alle im Rechner ansehen.
Der Arbeitsspeicher jedes Modells ist der, den Twoody auf diesem Computer unter „Modelle“ anzeigt: dieselbe Formel, dieselben Dateien (die zum Lesen von Bildern eingeschlossen), dieselbe Länge der Unterhaltung – Katalog geprüft am 15. Oktober 2026.
RTX 4070 im Vergleich zu RTX 5070, RTX 4070 SUPER, RTX 4060 Ti (16 GB) und RTX 3060
| Computer | Arbeitsspeicher | Qwen3.5 9B schreibt | Liest ein Dokument | Stärkstes Modell, das problemlos läuft |
|---|---|---|---|---|
| RTX 4070 | 12 GB | 40–80 Token/s | 20 Seiten in 7 s | Gemma 4 12B 41–59 Token/s |
| RTX 5070 | 12 GB | 55–110 Token/s | 20 Seiten in 4 s | Gemma 4 12B 56–81 Token/s |
| RTX 4070 SUPER | 12 GB | 45–89 Token/s | 20 Seiten in 5 s | Gemma 4 12B 47–67 Token/s |
| RTX 4060 Ti (16 GB) | 16 GB | 26–51 Token/s | 20 Seiten in 6 s | Qwen3 14B 21–30 Token/s |
| RTX 3060 | 12 GB | 32–63 Token/s | 20 Seiten in 10 s | Gemma 4 12B 33–48 Token/s |
Der eigene Speicher der Karte entscheidet, welche Modelle passen; ihre Bandbreite, wie schnell sie schreiben. Für jeden PC sind 32 GB Arbeitsspeicher neben der Karte angenommen.
Diese Karte hat 12 GB eigenen Speicher (VRAM), der mit 504 GB/s gelesen wird: Ein Modell, das vollständig hineinpasst, schreibt schnell; ein größeres läuft in den Arbeitsspeicher des Computers über und wird deutlich langsamer.
Die Tabellen nehmen 32 GB Arbeitsspeicher im PC neben der Karte an. Die Geschwindigkeiten gelten für ein Modell, das auf der Karte läuft, geschätzt aus öffentlichen llama.cpp-Benchmarks.
Twoody für Windows und Linux ist in der privaten Beta: Unter Windows 10 und 11 (x64) lässt es das Modell über Vulkan auf der RTX 4070 laufen, wenn der Treiber es unterstützt, sonst auf dem Prozessor; unter Linux auf dem Prozessor. Die Geschwindigkeiten auf dieser Seite sind Schätzungen für ein Modell, das auf der Karte läuft, keine mit Twoody gemessenen Werte.
Fragen zu lokalen LLMs
Welches lokale LLM für die RTX 4070?
Das stärkste Modell, das dort problemlos läuft, ist Gemma 4 12B; es schreibt 41–59 Token/s. Es lässt sich mit einem Klick aus dem Katalog von Twoody installieren. Auf einem PC mit 32 GB Arbeitsspeicher schlägt Twoody von sich aus Qwen3.5 9B vor, das dort 7,9 GB braucht: eines der Modelle, die Twoody mit seinem Gedächtnis, seinen Werkzeugen und Ihren Dokumenten gemessen hat.
Was passt in die 12 GB der RTX 4070?
33 der 62 Modelle, die der Rechner kennt (der Katalog von Twoody und einige größere), laufen dort gut, auf der Karte; das größte ist Ministral 3 14B, das 11,6 GB braucht. Größere laufen in den Arbeitsspeicher des Computers über und werden deutlich langsamer.
Wie viele Token pro Sekunde schreibt ein LLM auf der RTX 4070?
Mit Qwen3.5 9B, dem Modell, das Twoody dort vorschlägt: 40–80 Token/s beim Schreiben, und ein Dokument von etwa 20 Seiten ist in 7 s gelesen. Diese Geschwindigkeiten sind Schätzungen aus öffentlichen llama.cpp-Benchmarks für ein Modell, das auf der Karte läuft, keine mit Twoody gemessenen Werte.
RTX 4070 im Vergleich zu RTX 5070, RTX 4070 SUPER, RTX 4060 Ti (16 GB) und RTX 3060: Welche ist schneller?
Mit Qwen3.5 9B, dem Modell, das Twoody vorschlägt: RTX 4070, 40–80 Token/s; RTX 5070, 55–110 Token/s; RTX 4070 SUPER, 45–89 Token/s; RTX 4060 Ti (16 GB), 26–51 Token/s; RTX 3060, 32–63 Token/s. Der Speicher der Karte entscheidet, welche Modelle passen; ihre Bandbreite, wie schnell sie schreiben.
Nutzt Twoody die RTX 4070?
In der privaten Beta, unter Windows 10 und 11 (x64), ja: Twoody lässt das Modell über Vulkan auf der Karte laufen, wenn der Treiber es unterstützt, sonst auf dem Prozessor. Unter Linux läuft das Modell auf dem Prozessor. Hinterlassen Sie Ihre E-Mail-Adresse, um auf die Warteliste zu kommen.
Probieren Sie Twoody, bevor es für alle offensteht.
Die private Beta ist kostenlos, auf Mac, Windows und Linux sowie auf iPhone und Android mit Twoody auf Ihrem Computer. Hinterlassen Sie Ihre E-Mail-Adresse, um eine Einladung anzufragen: Wir schreiben Ihnen, sobald sie für Sie bereit ist.