Twoody
Rechner für lokale LLMs
Das beste lokale LLM für Ihre NVIDIA-Grafikkarte
Von der RTX 3060 bis zur RTX 5090: das stärkste Modell, das in den Speicher der jeweiligen Karte passt, und wie schnell es schreibt.
| Ihr Computer | Arbeitsspeicher | Stärkstes Modell, das problemlos läuft | Schreibt | Von Twoody vorgeschlagen |
|---|---|---|---|---|
GeForce RTX 5090 (32 GB) |
32 GB | Qwen3.6 35B-A3B Mit einem Klick in Twoody | 100+ Token/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 5080 (16 GB) |
16 GB | Qwen3 14B Mit einem Klick in Twoody | 66–95 Token/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 5070 Ti (16 GB) |
16 GB | Qwen3 14B Mit einem Klick in Twoody | 63–91 Token/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 5070 (12 GB) |
12 GB | Gemma 4 12B Mit einem Klick in Twoody | 56–81 Token/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 5060 Ti (16 GB) |
16 GB | Qwen3 14B Mit einem Klick in Twoody | 32–46 Token/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 5060 Ti (8 GB) |
8 GB | Qwen3.5 4B Mit einem Klick in Twoody | 77–154 Token/s | Qwen3.5 9B (7,9 GB) Teils auf dem Prozessor: deutlich langsamer |
GeForce RTX 5060 (8 GB) |
8 GB | Qwen3.5 4B Mit einem Klick in Twoody | 82–147 Token/s | Qwen3.5 9B (7,9 GB) Teils auf dem Prozessor: deutlich langsamer |
GeForce RTX 4090 (24 GB) |
24 GB | Qwen3.6 35B-A3B Mit einem Klick in Twoody | 100+ Token/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 4080 SUPER (16 GB) |
16 GB | Qwen3 14B Mit einem Klick in Twoody | 52–74 Token/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 4080 (16 GB) |
16 GB | Qwen3 14B Mit einem Klick in Twoody | 50–72 Token/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 4070 Ti SUPER (16 GB) |
16 GB | Qwen3 14B Mit einem Klick in Twoody | 47–67 Token/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 4070 Ti (12 GB) |
12 GB | Gemma 4 12B Mit einem Klick in Twoody | 47–67 Token/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 4070 SUPER (12 GB) |
12 GB | Gemma 4 12B Mit einem Klick in Twoody | 47–67 Token/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 4070 (12 GB) |
12 GB | Gemma 4 12B Mit einem Klick in Twoody | 41–59 Token/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 4060 Ti (16 GB) |
16 GB | Qwen3 14B Mit einem Klick in Twoody | 21–30 Token/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 4060 Ti (8 GB) |
8 GB | Qwen3.5 4B Mit einem Klick in Twoody | 53–105 Token/s | Qwen3.5 9B (7,9 GB) Teils auf dem Prozessor: deutlich langsamer |
GeForce RTX 4060 (8 GB) |
8 GB | Qwen3.5 4B Mit einem Klick in Twoody | 53–95 Token/s | Qwen3.5 9B (7,9 GB) Teils auf dem Prozessor: deutlich langsamer |
GeForce RTX 3090 (24 GB) |
24 GB | Qwen3.6 35B-A3B Mit einem Klick in Twoody | 100+ Token/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 3080 (10 GB) |
10 GB | Gemma 4 12B Mit einem Klick in Twoody | 62–89 Token/s | Qwen3.5 9B (7,9 GB) |
GeForce RTX 3070 (8 GB) |
8 GB | Qwen3.5 4B Mit einem Klick in Twoody | 62–123 Token/s | Qwen3.5 9B (7,9 GB) Teils auf dem Prozessor: deutlich langsamer |
GeForce RTX 3060 Ti (8 GB) |
8 GB | Qwen3.5 4B Mit einem Klick in Twoody | 70–140 Token/s | Qwen3.5 9B (7,9 GB) Teils auf dem Prozessor: deutlich langsamer |
GeForce RTX 3060 (12 GB) |
12 GB | Gemma 4 12B Mit einem Klick in Twoody | 33–48 Token/s | Qwen3.5 9B (7,9 GB) |
Die Geschwindigkeiten sind Schätzungen, keine mit Twoody gemessenen Werte, berechnet aus öffentlichen llama.cpp-Benchmarks. Zahlen geprüft am 16. Oktober 2026.
So lesen Sie diese Tabelle
Eine Zeile pro Grafikkarte: Ihr eigener Speicher entscheidet, welche Modelle passen, und die Geschwindigkeiten sind die eines Modells, das auf der Karte läuft. Für den Rest des PCs werden 32 GB Arbeitsspeicher angenommen.
- Stärkstes Modell, das problemlos läuft
- Das stärkste Modell, das dort problemlos Platz findet und mindestens in Ihrem Lesetempo schreibt, 5 Token pro Sekunde; unter seinem Namen steht, ob es sich in Twoody mit einem Klick installieren lässt.
- Schreibt
- Sein Tempo dort, in Token pro Sekunde: eine Schätzung aus den öffentlichen Benchmarks von llama.cpp, keine Messung mit Twoody.
- Von Twoody vorgeschlagen
- Das Modell, das die App auf diesem Computer zuerst installiert, und der Arbeitsspeicher, den es dort braucht. Nicht immer das stärkste, aber eines der Modelle, die Twoody mit seinem Gedächtnis, seinen Werkzeugen und Ihren Dokumenten gemessen hat.
Twoody ist in der privaten Beta: Hinterlassen Sie Ihre E-Mail-Adresse, um Zugang anzufragen.
Auf einem PC entscheidet der Speicher der Grafikkarte (VRAM): 8 GB für Modelle mit 4 bis 8 Milliarden Parametern, 16 GB für 14 Milliarden oder gpt-oss 20B, 24 bis 32 GB für 32 Milliarden.
Grafikkarten lesen ihren Speicher sehr schnell: Mit einem Modell, das hineinpasst, schreiben sie schneller als jeder Mac.
Twoody für Windows und Linux ist in der privaten Beta: Unter Windows 10 und 11 (x64) lässt es das Modell über Vulkan auf einer NVIDIA-Karte laufen, wenn der Treiber es unterstützt, sonst auf dem Prozessor; unter Linux auf dem Prozessor. Die Geschwindigkeiten auf dieser Seite sind Schätzungen für ein Modell, das auf der Grafikkarte läuft, keine mit Twoody gemessenen Werte.
Fragen zu lokalen LLMs
Welches LLM für eine RTX 4090?
Das stärkste Modell, das dort problemlos läuft, ist Qwen3.6 35B-A3B; es schreibt 100+ Token/s. Es lässt sich mit einem Klick aus dem Katalog von Twoody installieren. Auf einem PC mit 32 GB Arbeitsspeicher schlägt Twoody von sich aus Qwen3.5 9B vor, das dort 7,9 GB braucht: eines der Modelle, die Twoody mit seinem Gedächtnis, seinen Werkzeugen und Ihren Dokumenten gemessen hat.
Reicht eine Grafikkarte mit 8 GB?
Für kleine Modelle ja. Das stärkste Modell, das dort problemlos läuft, ist Qwen3.5 4B; es schreibt 53–154 Token/s, je nach Karte. Es lässt sich mit einem Klick aus dem Katalog von Twoody installieren. Größere laufen in den Arbeitsspeicher des Computers über und werden deutlich langsamer.
Läuft Twoody unter Windows mit einer NVIDIA-Karte?
In der privaten Beta, ja: Unter Windows 10 und 11 (x64) lässt Twoody das Modell über Vulkan auf einer NVIDIA-Karte laufen, wenn der Treiber es unterstützt, sonst auf dem Prozessor. Hinterlassen Sie auf der Seite „Plattformen“ Ihre E-Mail-Adresse, um auf die Warteliste zu kommen.
Das beste lokale LLM, je nach Computer
Probieren Sie Twoody, bevor es für alle offensteht.
Die private Beta ist kostenlos, auf Mac, Windows und Linux sowie auf iPhone und Android mit Twoody auf Ihrem Computer. Hinterlassen Sie Ihre E-Mail-Adresse, um eine Einladung anzufragen: Wir schreiben Ihnen, sobald sie für Sie bereit ist.