Twoody
Rechner für lokale LLMs
Ein lokales LLM auf der RTX 3080
Mit 10 GB eigenem Speicher: welche offenen Modelle in die RTX 3080 passen, wie schnell sie schreiben und lesen, und der Vergleich mit RTX 3090, RTX 4070, RTX 5070 und RTX 3070. Berechnet mit dem Speicher, den die Twoody-App anzeigt, und öffentlichen llama.cpp-Benchmarks.
Das beste lokale LLM für die RTX 3080
| Arbeitsspeicher | Stärkstes Modell, das problemlos läuft | Schreibt | Von Twoody vorgeschlagen |
|---|---|---|---|
| 10 GB | Gemma 4 12B Mit einem Klick in Twoody | 62–89 Token/s | Qwen3.5 9B (7,9 GB) |
Die Geschwindigkeiten sind Schätzungen, keine mit Twoody gemessenen Werte, berechnet aus öffentlichen llama.cpp-Benchmarks. Zahlen geprüft am 16. Oktober 2026.
„Stärkstes Modell, das problemlos läuft“: das stärkste Modell, das bequem in den Speicher der Karte passt und mindestens in Ihrem Lesetempo schreibt (5 Token pro Sekunde). „Von Twoody vorgeschlagen“: das Modell, das die App auf einem PC mit dieser Karte und 32 GB Arbeitsspeicher zuerst installiert, und der Speicher, den es dort braucht.
Twoody ist in der privaten Beta: Hinterlassen Sie Ihre E-Mail-Adresse, um Zugang anzufragen.
Alle Modelle, die auf der RTX 3080 gut laufen
29 der 62 Modelle, die der Rechner kennt (der Katalog von Twoody und einige größere), laufen hier gut, das stärkste zuerst: der Speicher, den die Twoody-App für jedes auf diesem Computer angibt, wie schnell es schreibt und wie lange es braucht, um ein Dokument zu lesen.
| Modell | Speicher | Schreibt | Liest ein Dokument |
|---|---|---|---|
| Gemma 4 12B Mit einem Klick in Twoody | Braucht 7,6 GB Arbeitsspeicher Läuft problemlos | 62–89 Token/s | 20 Seiten in 5 s |
| GLM-4.6V Flash Mit einem Klick in Twoody | Braucht 7,9 GB Arbeitsspeicher Läuft problemlos | 72–103 Token/s | 20 Seiten in 4 s |
| Qwen3.5 9B Mit einem Klick in Twoody | Braucht 7,9 GB Arbeitsspeicher Läuft problemlos | 61–121 Token/s | 20 Seiten in 4 s |
| GLM-4 9B Mit einem Klick in Twoody | Braucht 6,7 GB Arbeitsspeicher Läuft problemlos | 72–103 Token/s | 20 Seiten in 4 s |
| Ministral 3 8B Mit einem Klick in Twoody | Braucht 8,4 GB Arbeitsspeicher Läuft problemlos | 84–120 Token/s | 20 Seiten in 4 s |
| Granite 4.1 8B Mit einem Klick in Twoody | Braucht 8 GB Arbeitsspeicher Läuft problemlos | 77–111 Token/s | 20 Seiten in 4 s |
| Qwen3 8B Mit einem Klick in Twoody | Braucht 7,2 GB Arbeitsspeicher Läuft problemlos | 85–122 Token/s | 20 Seiten in 3 s |
| Llama 3.1 8B Mit einem Klick in Twoody | Braucht 6,9 GB Arbeitsspeicher Läuft problemlos | 88–127 Token/s | 20 Seiten in 3 s |
| Olmo 3 7B Mit einem Klick in Twoody | Braucht 8,2 GB Arbeitsspeicher Läuft problemlos | 89–128 Token/s | 20 Seiten in 3 s |
| Gemma 4 E4B Mit einem Klick in Twoody | Braucht 6,6 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 2 s |
| Qwen3.5 4B Mit einem Klick in Twoody | Braucht 4,9 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 2 s |
| Qwen3 4B Instruct 2507 Mit einem Klick in Twoody | Braucht 4,9 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 2 s |
| Nemotron 3 Nano 4B Mit einem Klick in Twoody | Braucht 3,6 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 2 s |
| Ministral 3 3B Mit einem Klick in Twoody | Braucht 5 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 2 s |
| Phi-4 mini Mit einem Klick in Twoody | Braucht 4,6 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 2 s |
| Llama 3.2 3B Mit einem Klick in Twoody | Braucht 3,9 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Gemma 4 E2B Mit einem Klick in Twoody | Braucht 4,7 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Qwen3.5 2B Mit einem Klick in Twoody | Braucht 2,9 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Qwen3.5 0.8B Mit einem Klick in Twoody | Braucht 1,7 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| GLM-Z1 9B Mit einem Klick in Twoody | Braucht 6,7 GB Arbeitsspeicher Läuft problemlos | 72–103 Token/s | 20 Seiten in 4 s |
| DeepSeek-R1 8B Mit einem Klick in Twoody | Braucht 7,2 GB Arbeitsspeicher Läuft problemlos | 85–122 Token/s | 20 Seiten in 3 s |
| DeepSeek-R1 Distill Llama 8B Mit einem Klick in Twoody | Braucht 6,9 GB Arbeitsspeicher Läuft problemlos | 88–127 Token/s | 20 Seiten in 3 s |
| DeepSeek-R1 Distill Qwen 7B Mit einem Klick in Twoody | Braucht 5,5 GB Arbeitsspeicher Läuft problemlos | 95–137 Token/s | 20 Seiten in 3 s |
| Qwen3 4B Thinking 2507 Mit einem Klick in Twoody | Braucht 4,9 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 2 s |
| Phi-4 mini reasoning Mit einem Klick in Twoody | Braucht 4,6 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 2 s |
| SmolLM3 3B Mit einem Klick in Twoody | Braucht 3,2 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| LFM2.5 2.6B Mit einem Klick in Twoody | Braucht 2,4 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| MiniCPM5 2B Mit einem Klick in Twoody | Braucht 2,5 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
| Llama 3.2 1B Mit einem Klick in Twoody | Braucht 1,6 GB Arbeitsspeicher Läuft problemlos | 100+ Token/s | 20 Seiten in 1 s |
Außerdem würden 27 Modelle teilweise auf dem Prozessor laufen, deutlich langsamer, und 6 sind zu groß für diesen Computer. Alle im Rechner ansehen.
Der Arbeitsspeicher jedes Modells ist der, den Twoody auf diesem Computer unter „Modelle“ anzeigt: dieselbe Formel, dieselben Dateien (die zum Lesen von Bildern eingeschlossen), dieselbe Länge der Unterhaltung – Katalog geprüft am 15. Oktober 2026.
RTX 3080 im Vergleich zu RTX 3090, RTX 4070, RTX 5070 und RTX 3070
| Computer | Arbeitsspeicher | Qwen3.5 9B schreibt | Liest ein Dokument | Stärkstes Modell, das problemlos läuft |
|---|---|---|---|---|
| RTX 3080 | 10 GB | 61–121 Token/s | 20 Seiten in 4 s | Gemma 4 12B 62–89 Token/s |
| RTX 3090 | 24 GB | 71–143 Token/s | 20 Seiten in 4 s | Qwen3.6 35B-A3B 100+ Token/s |
| RTX 4070 | 12 GB | 40–80 Token/s | 20 Seiten in 7 s | Gemma 4 12B 41–59 Token/s |
| RTX 5070 | 12 GB | 55–110 Token/s | 20 Seiten in 4 s | Gemma 4 12B 56–81 Token/s |
| RTX 3070 | 8 GB | 13–27 Token/s Teils auf dem Prozessor: deutlich langsamer | 20 Seiten in 28 s | Qwen3.5 4B 62–123 Token/s |
Der eigene Speicher der Karte entscheidet, welche Modelle passen; ihre Bandbreite, wie schnell sie schreiben. Für jeden PC sind 32 GB Arbeitsspeicher neben der Karte angenommen.
Diese Karte hat 10 GB eigenen Speicher (VRAM), der mit 760 GB/s gelesen wird: Ein Modell, das vollständig hineinpasst, schreibt schnell; ein größeres läuft in den Arbeitsspeicher des Computers über und wird deutlich langsamer.
Die Tabellen nehmen 32 GB Arbeitsspeicher im PC neben der Karte an. Die Geschwindigkeiten gelten für ein Modell, das auf der Karte läuft, geschätzt aus öffentlichen llama.cpp-Benchmarks.
Twoody für Windows und Linux ist in der privaten Beta: Unter Windows 10 und 11 (x64) lässt es das Modell über Vulkan auf der RTX 3080 laufen, wenn der Treiber es unterstützt, sonst auf dem Prozessor; unter Linux auf dem Prozessor. Die Geschwindigkeiten auf dieser Seite sind Schätzungen für ein Modell, das auf der Karte läuft, keine mit Twoody gemessenen Werte.
Fragen zu lokalen LLMs
Welches lokale LLM für die RTX 3080?
Das stärkste Modell, das dort problemlos läuft, ist Gemma 4 12B; es schreibt 62–89 Token/s. Es lässt sich mit einem Klick aus dem Katalog von Twoody installieren. Auf einem PC mit 32 GB Arbeitsspeicher schlägt Twoody von sich aus Qwen3.5 9B vor, das dort 7,9 GB braucht: eines der Modelle, die Twoody mit seinem Gedächtnis, seinen Werkzeugen und Ihren Dokumenten gemessen hat.
Was passt in die 10 GB der RTX 3080?
29 der 62 Modelle, die der Rechner kennt (der Katalog von Twoody und einige größere), laufen dort gut, auf der Karte; das größte ist Ministral 3 8B, das 8,4 GB braucht. Größere laufen in den Arbeitsspeicher des Computers über und werden deutlich langsamer.
Wie viele Token pro Sekunde schreibt ein LLM auf der RTX 3080?
Mit Qwen3.5 9B, dem Modell, das Twoody dort vorschlägt: 61–121 Token/s beim Schreiben, und ein Dokument von etwa 20 Seiten ist in 4 s gelesen. Diese Geschwindigkeiten sind Schätzungen aus öffentlichen llama.cpp-Benchmarks für ein Modell, das auf der Karte läuft, keine mit Twoody gemessenen Werte.
RTX 3080 im Vergleich zu RTX 3090, RTX 4070, RTX 5070 und RTX 3070: Welche ist schneller?
Mit Qwen3.5 9B, dem Modell, das Twoody vorschlägt: RTX 3080, 61–121 Token/s; RTX 3090, 71–143 Token/s; RTX 4070, 40–80 Token/s; RTX 5070, 55–110 Token/s; RTX 3070, 13–27 Token/s (teilweise auf dem Prozessor). Der Speicher der Karte entscheidet, welche Modelle passen; ihre Bandbreite, wie schnell sie schreiben.
Nutzt Twoody die RTX 3080?
In der privaten Beta, unter Windows 10 und 11 (x64), ja: Twoody lässt das Modell über Vulkan auf der Karte laufen, wenn der Treiber es unterstützt, sonst auf dem Prozessor. Unter Linux läuft das Modell auf dem Prozessor. Hinterlassen Sie Ihre E-Mail-Adresse, um auf die Warteliste zu kommen.
Probieren Sie Twoody, bevor es für alle offensteht.
Die private Beta ist kostenlos, auf Mac, Windows und Linux sowie auf iPhone und Android mit Twoody auf Ihrem Computer. Hinterlassen Sie Ihre E-Mail-Adresse, um eine Einladung anzufragen: Wir schreiben Ihnen, sobald sie für Sie bereit ist.