Twoody
Rechner für lokale LLMs
Ein lokales LLM auf der RTX 4090
Mit 24 GB eigenem Speicher: welche offenen Modelle in die RTX 4090 passen, wie schnell sie schreiben und lesen, und der Vergleich mit RTX 5090, RTX 3090, RTX 4080 und Radeon RX 7900 XTX. Berechnet mit dem Speicher, den die Twoody-App anzeigt, und öffentlichen llama.cpp-Benchmarks.
Das beste lokale LLM für die RTX 4090
| Arbeitsspeicher | Stärkstes Modell, das problemlos läuft | Schreibt | Von Twoody vorgeschlagen |
|---|---|---|---|
| 24 GB | Qwen3.6 35B-A3B Mit einem Klick in Twoody | 100+ Token/s | Qwen3.5 9B (7,9 GB) |
Die Geschwindigkeiten sind Schätzungen, keine mit Twoody gemessenen Werte, berechnet aus öffentlichen llama.cpp-Benchmarks. Zahlen geprüft am 16. Oktober 2026.
„Stärkstes Modell, das problemlos läuft“: das stärkste Modell, das bequem in den Speicher der Karte passt und mindestens in Ihrem Lesetempo schreibt (5 Token pro Sekunde). „Von Twoody vorgeschlagen“: das Modell, das die App auf einem PC mit dieser Karte und 32 GB Arbeitsspeicher zuerst installiert, und der Speicher, den es dort braucht.
Twoody ist in der privaten Beta: Hinterlassen Sie Ihre E-Mail-Adresse, um Zugang anzufragen.
Alle Modelle, die auf der RTX 4090 gut laufen
56 der 62 Modelle, die der Rechner kennt (der Katalog von Twoody und einige größere), laufen hier gut, das stärkste zuerst: der Speicher, den die Twoody-App für jedes auf diesem Computer angibt, wie schnell es schreibt und wie lange es braucht, um ein Dokument zu lesen.
| Modell | Speicher | Schreibt | Liest ein Dokument |
|---|---|---|---|
| Qwen3.6 35B-A3B Mit einem Klick in Twoody | Braucht 16,8 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Qwen3.6 35B-A3B (4 bits) Mit einem Klick in Twoody | Braucht 21,2 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Qwen3.5 35B-A3B Mit einem Klick in Twoody | Braucht 22,9 GB Arbeitsspeicher Läuft – andere Apps schließen | 100+ Token/s | 20 Seiten in 1 s |
| Qwen3 32B Mit einem Klick in Twoody | Braucht 22,7 GB Arbeitsspeicher Läuft – andere Apps schließen | 32–46 Token/s | 20 Seiten in 5 s |
| GLM-4 32B Mit einem Klick in Twoody | Braucht 19,6 GB Arbeitsspeicher Läuft problemlos | 32–47 Token/s | 20 Seiten in 5 s |
| Nemotron 3 Nano 30B-A3B Mit einem Klick in Twoody | Braucht 21,4 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Gemma 4 31B Mit einem Klick in Twoody | Braucht 19,4 GB Arbeitsspeicher Läuft problemlos | 35–51 Token/s | 20 Seiten in 5 s |
| Qwen3 30B-A3B Instruct 2507 Mit einem Klick in Twoody | Braucht 19,2 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Qwen3.5 27B Mit einem Klick in Twoody | Braucht 20,5 GB Arbeitsspeicher Läuft problemlos | 27–54 Token/s | 20 Seiten in 5 s |
| Qwen3.8 27B Mit einem Klick in Twoody | Braucht 21,4 GB Arbeitsspeicher Läuft problemlos | 26–52 Token/s | 20 Seiten in 5 s |
| Qwen3.6 27B Mit einem Klick in Twoody | Braucht 21,5 GB Arbeitsspeicher Läuft problemlos | 26–51 Token/s | 20 Seiten in 5 s |
| Gemma 4 26B (A4B) Mit einem Klick in Twoody | Braucht 15,5 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Mistral Small 3.2 24B Mit einem Klick in Twoody | Braucht 17,3 GB Arbeitsspeicher Läuft problemlos | 45–64 Token/s | 20 Seiten in 4 s |
| Qwen3 14B Mit einem Klick in Twoody | Braucht 11,2 GB Arbeitsspeicher Läuft problemlos | 68–98 Token/s | 20 Seiten in 2 s |
| Phi-4 14B Mit einem Klick in Twoody | Braucht 11,9 GB Arbeitsspeicher Läuft problemlos | 68–97 Token/s | 20 Seiten in 2 s |
| Ministral 3 14B Mit einem Klick in Twoody | Braucht 11,6 GB Arbeitsspeicher Läuft problemlos | 74–106 Token/s | 20 Seiten in 2 s |
| Gemma 4 12B Mit einem Klick in Twoody | Braucht 7,6 GB Arbeitsspeicher Läuft problemlos | 83–120 Token/s | 20 Seiten in 2 s |
| GLM-4.6V Flash Mit einem Klick in Twoody | Braucht 7,9 GB Arbeitsspeicher Läuft problemlos | 97–139 Token/s | 20 Seiten in 2 s |
| Qwen3.5 9B Mit einem Klick in Twoody | Braucht 7,9 GB Arbeitsspeicher Läuft problemlos | 81–163 Token/s | 20 Seiten in 2 s |
| GLM-4 9B Mit einem Klick in Twoody | Braucht 6,7 GB Arbeitsspeicher Läuft problemlos | 97–139 Token/s | 20 Seiten in 2 s |
| Ministral 3 8B Mit einem Klick in Twoody | Braucht 8,4 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Granite 4.1 8B Mit einem Klick in Twoody | Braucht 8 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Qwen3 8B Mit einem Klick in Twoody | Braucht 7,2 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Llama 3.1 8B Mit einem Klick in Twoody | Braucht 6,9 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Olmo 3 7B Mit einem Klick in Twoody | Braucht 8,2 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Gemma 4 E4B Mit einem Klick in Twoody | Braucht 6,6 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Qwen3.5 4B Mit einem Klick in Twoody | Braucht 4,9 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Qwen3 4B Instruct 2507 Mit einem Klick in Twoody | Braucht 4,9 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Nemotron 3 Nano 4B Mit einem Klick in Twoody | Braucht 3,6 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Ministral 3 3B Mit einem Klick in Twoody | Braucht 5 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Phi-4 mini Mit einem Klick in Twoody | Braucht 4,6 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Llama 3.2 3B Mit einem Klick in Twoody | Braucht 3,9 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Gemma 4 E2B Mit einem Klick in Twoody | Braucht 4,7 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Qwen3.5 2B Mit einem Klick in Twoody | Braucht 2,9 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Qwen3.5 0.8B Mit einem Klick in Twoody | Braucht 1,7 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| DeepSeek-R1 Distill Qwen 32B Mit einem Klick in Twoody | Braucht 22,8 GB Arbeitsspeicher Läuft – andere Apps schließen | 32–46 Token/s | 20 Seiten in 5 s |
| GLM-4.7 Flash Mit einem Klick in Twoody | Braucht 18,1 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Qwen3-Coder 30B-A3B Mit einem Klick in Twoody | Braucht 19,1 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Qwen3 30B-A3B Thinking 2507 Mit einem Klick in Twoody | Braucht 19,2 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Magistral Small 1.2 Mit einem Klick in Twoody | Braucht 16,1 GB Arbeitsspeicher Läuft problemlos | 45–64 Token/s | 20 Seiten in 4 s |
| Devstral Small 2 24B Mit einem Klick in Twoody | Braucht 16,1 GB Arbeitsspeicher Läuft problemlos | 45–64 Token/s | 20 Seiten in 4 s |
| gpt-oss 20B Mit einem Klick in Twoody | Braucht 12 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| DeepSeek-Coder-V2 Lite Mit einem Klick in Twoody | Braucht 10,4 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| DeepSeek-R1 Distill Qwen 14B Mit einem Klick in Twoody | Braucht 11,7 GB Arbeitsspeicher Läuft problemlos | 67–96 Token/s | 20 Seiten in 2 s |
| Phi-4 reasoning plus Mit einem Klick in Twoody | Braucht 11,9 GB Arbeitsspeicher Läuft problemlos | 68–97 Token/s | 20 Seiten in 2 s |
| Ministral 3 14B Reasoning Mit einem Klick in Twoody | Braucht 10,5 GB Arbeitsspeicher Läuft problemlos | 74–106 Token/s | 20 Seiten in 2 s |
| GLM-Z1 9B Mit einem Klick in Twoody | Braucht 6,7 GB Arbeitsspeicher Läuft problemlos | 97–139 Token/s | 20 Seiten in 2 s |
| DeepSeek-R1 8B Mit einem Klick in Twoody | Braucht 7,2 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| DeepSeek-R1 Distill Llama 8B Mit einem Klick in Twoody | Braucht 6,9 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| DeepSeek-R1 Distill Qwen 7B Mit einem Klick in Twoody | Braucht 5,5 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Qwen3 4B Thinking 2507 Mit einem Klick in Twoody | Braucht 4,9 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Phi-4 mini reasoning Mit einem Klick in Twoody | Braucht 4,6 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| SmolLM3 3B Mit einem Klick in Twoody | Braucht 3,2 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| LFM2.5 2.6B Mit einem Klick in Twoody | Braucht 2,4 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| MiniCPM5 2B Mit einem Klick in Twoody | Braucht 2,5 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Llama 3.2 1B Mit einem Klick in Twoody | Braucht 1,6 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
Außerdem würden 2 Modelle teilweise auf dem Prozessor laufen, deutlich langsamer, und 4 sind zu groß für diesen Computer. Alle im Rechner ansehen.
Der Arbeitsspeicher jedes Modells ist der, den Twoody auf diesem Computer unter „Modelle“ anzeigt: dieselbe Formel, dieselben Dateien (die zum Lesen von Bildern eingeschlossen), dieselbe Länge der Unterhaltung – Katalog geprüft am 15. Oktober 2026.
RTX 4090 im Vergleich zu RTX 5090, RTX 3090, RTX 4080 und Radeon RX 7900 XTX
| Computer | Arbeitsspeicher | Qwen3.5 9B schreibt | Liest ein Dokument | Stärkstes Modell, das problemlos läuft |
|---|---|---|---|---|
| RTX 4090 | 24 GB | 81–163 Token/s | 20 Seiten in 2 s | Qwen3.6 35B-A3B 100+ Token/s |
| RTX 5090 | 32 GB | 100+ Token/s | 20 Seiten in 2 s | Qwen3.6 35B-A3B 100+ Token/s |
| RTX 3090 | 24 GB | 71–143 Token/s | 20 Seiten in 4 s | Qwen3.6 35B-A3B 100+ Token/s |
| RTX 4080 | 16 GB | 60–121 Token/s | 20 Seiten in 3 s | Qwen3 14B 50–72 Token/s |
| Radeon RX 7900 XTX | 24 GB | 78–156 Token/s | 20 Seiten in 6 s | Qwen3.6 35B-A3B 100+ Token/s |
Der eigene Speicher der Karte entscheidet, welche Modelle passen; ihre Bandbreite, wie schnell sie schreiben. Für jeden PC sind 32 GB Arbeitsspeicher neben der Karte angenommen.
Diese Karte hat 24 GB eigenen Speicher (VRAM), der mit 1 008 GB/s gelesen wird: Ein Modell, das vollständig hineinpasst, schreibt schnell; ein größeres läuft in den Arbeitsspeicher des Computers über und wird deutlich langsamer.
Die Tabellen nehmen 32 GB Arbeitsspeicher im PC neben der Karte an. Die Geschwindigkeiten gelten für ein Modell, das auf der Karte läuft, geschätzt aus öffentlichen llama.cpp-Benchmarks.
Twoody für Windows und Linux ist in der privaten Beta: Unter Windows 10 und 11 (x64) lässt es das Modell über Vulkan auf der RTX 4090 laufen, wenn der Treiber es unterstützt, sonst auf dem Prozessor; unter Linux auf dem Prozessor. Die Geschwindigkeiten auf dieser Seite sind Schätzungen für ein Modell, das auf der Karte läuft, keine mit Twoody gemessenen Werte.
Fragen zu lokalen LLMs
Welches lokale LLM für die RTX 4090?
Das stärkste Modell, das dort problemlos läuft, ist Qwen3.6 35B-A3B; es schreibt 100+ Token/s. Es lässt sich mit einem Klick aus dem Katalog von Twoody installieren. Auf einem PC mit 32 GB Arbeitsspeicher schlägt Twoody von sich aus Qwen3.5 9B vor, das dort 7,9 GB braucht: eines der Modelle, die Twoody mit seinem Gedächtnis, seinen Werkzeugen und Ihren Dokumenten gemessen hat.
Was passt in die 24 GB der RTX 4090?
56 der 62 Modelle, die der Rechner kennt (der Katalog von Twoody und einige größere), laufen dort gut, auf der Karte; das größte ist Qwen3.5 35B-A3B, das 22,9 GB braucht. Größere laufen in den Arbeitsspeicher des Computers über und werden deutlich langsamer.
Wie viele Token pro Sekunde schreibt ein LLM auf der RTX 4090?
Mit Qwen3.5 9B, dem Modell, das Twoody dort vorschlägt: 81–163 Token/s beim Schreiben, und ein Dokument von etwa 20 Seiten ist in 2 s gelesen. Diese Geschwindigkeiten sind Schätzungen aus öffentlichen llama.cpp-Benchmarks für ein Modell, das auf der Karte läuft, keine mit Twoody gemessenen Werte.
RTX 4090 im Vergleich zu RTX 5090, RTX 3090, RTX 4080 und Radeon RX 7900 XTX: Welche ist schneller?
Mit Qwen3.5 9B, dem Modell, das Twoody vorschlägt: RTX 4090, 81–163 Token/s; RTX 5090, 100+ Token/s; RTX 3090, 71–143 Token/s; RTX 4080, 60–121 Token/s; Radeon RX 7900 XTX, 78–156 Token/s. Der Speicher der Karte entscheidet, welche Modelle passen; ihre Bandbreite, wie schnell sie schreiben.
Nutzt Twoody die RTX 4090?
In der privaten Beta, unter Windows 10 und 11 (x64), ja: Twoody lässt das Modell über Vulkan auf der Karte laufen, wenn der Treiber es unterstützt, sonst auf dem Prozessor. Unter Linux läuft das Modell auf dem Prozessor. Hinterlassen Sie Ihre E-Mail-Adresse, um auf die Warteliste zu kommen.
Probieren Sie Twoody, bevor es für alle offensteht.
Die private Beta ist kostenlos, auf Mac, Windows und Linux sowie auf iPhone und Android mit Twoody auf Ihrem Computer. Hinterlassen Sie Ihre E-Mail-Adresse, um eine Einladung anzufragen: Wir schreiben Ihnen, sobald sie für Sie bereit ist.