Rechner für lokale LLMs
Das beste lokale LLM für Ihre AMD-Grafikkarte
Von der RX 7600 bis zur RX 9070 XT: das stärkste Modell, das in den Speicher der jeweiligen Karte passt, und wie schnell es schreibt.
| Ihr Computer | Arbeitsspeicher | Empfohlen – läuft problemlos | Schreibt |
|---|---|---|---|
Radeon RX 9070 XT (16 GB) |
16 GB | gpt-oss-20b | 100+ Token/s |
Radeon RX 9070 (16 GB) |
16 GB | gpt-oss-20b | 100+ Token/s |
Radeon RX 9060 XT (16 GB) |
16 GB | gpt-oss-20b | 61–107 Token/s |
Radeon RX 9060 XT (8 GB) |
8 GB | Llama 3.1 8B | 42–61 Token/s |
Radeon RX 7900 XTX (24 GB) |
24 GB | GLM-4.7-Flash | 100+ Token/s |
Radeon RX 7900 XT (20 GB) |
20 GB | gpt-oss-20b | 100+ Token/s |
Radeon RX 7900 GRE (16 GB) |
16 GB | gpt-oss-20b | 100+ Token/s |
Radeon RX 7800 XT (16 GB) |
16 GB | gpt-oss-20b | 100+ Token/s |
Radeon RX 7600 XT (16 GB) |
16 GB | gpt-oss-20b | 46–80 Token/s |
Radeon RX 7600 (8 GB) |
8 GB | Llama 3.1 8B | 36–52 Token/s |
Schätzungen, keine Messungen, berechnet aus öffentlichen llama.cpp-Benchmarks. Zahlen geprüft am 26. September 2026.
Der Speicher der Karte entscheidet, welche Modelle passen: Mit 16 GB laufen Modelle mit 14 Milliarden Parametern oder gpt-oss-20b, auf der RX 7900 XTX mit 24 GB solche mit 32 Milliarden.
llama.cpp nutzt Radeon-Karten über Vulkan: Das Schreiben ist schnell, das Lesen langer Dokumente langsamer als auf NVIDIA-Karten.
Twoody für Windows und Linux ist in der privaten Beta: Unter Windows 10 und 11 (x64) lässt es das Modell über Vulkan auf einer Radeon-Karte laufen, wenn der Treiber es unterstützt, sonst auf dem Prozessor; unter Linux auf dem Prozessor. Die Werte auf dieser Seite zeigen das Tempo von LM Studio oder Ollama und wurden nicht mit Twoody gemessen.
Fragen zu lokalen LLMs
Welches LLM für eine Radeon RX 7900 XTX?
Mit 24 GB passen Qwen3 32B oder Gemma 4 31B in 4 Bit, und Mixture-of-Experts-Modelle wie gpt-oss-20b schreiben sehr schnell.
Was passt in 16 GB VRAM?
Modelle mit bis zu 14 Milliarden Parametern in 4 Bit oder gpt-oss-20b, mit Platz für eine lange Unterhaltung.
Läuft Twoody unter Linux mit einer AMD-Karte?
In der privaten Beta läuft Twoody unter Linux (x86_64), aber auf dem Prozessor: Die Grafikkarte nutzt es dort nicht. Unter Windows 10 und 11 (x64) nutzt es eine Radeon-Karte über Vulkan, wenn der Treiber es unterstützt. Hinterlassen Sie auf der Seite „Plattformen“ Ihre E-Mail-Adresse, um auf die Warteliste zu kommen.
Das beste lokale LLM, je nach Computer
Twoody ist in der privaten Beta.
Auf Mac, Windows und Linux, kostenlos, ohne Konto und ohne Abo – und auf iPhone und Android, mit Twoody auf Ihrem Computer. Hinterlassen Sie Ihre E-Mail-Adresse: Wir schreiben Ihnen, sobald Twoody für Sie offensteht.