Lokales LLM unter Windows
Ein LLM lokal auf Ihrem Windows-PC ausführen
Ein großes Sprachmodell kann komplett auf Ihrem Windows-PC laufen: privat, offline und kostenlos. Was Sie brauchen, welches Modell Sie wählen sollten, Grafikkarte oder Prozessor – und wie Sie am einfachsten starten.
Warum ein LLM auf Ihrem PC?
Das Modell antwortet und liest Ihre Dateien direkt auf dem PC. Sobald das Modell installiert ist, funktioniert es ohne Internet. Es gibt kein Abo und kein Kontingent, und Sie brauchen kein Konto. Der Kompromiss: Ein Modell, das auf einen PC passt, ist kleiner als die größten Online-Modelle – hervorragend zum Schreiben, für Zusammenfassungen und Ihre Dokumente, weniger für die schwierigsten Denkaufgaben.
Was Sie brauchen
Windows 10 oder 11, 64 Bit. Zwei Speicher zählen. Auf dem Prozessor entscheidet der Arbeitsspeicher des Computers (RAM): 8 GB für etwa 4 Milliarden Parameter, 16 GB für 8 Milliarden, 24 GB für 14 Milliarden. Auf einer Grafikkarte entscheidet ihr eigener Speicher (VRAM): 8 GB für Modelle mit 4 bis 8 Milliarden Parametern, 16 GB für 14 Milliarden oder gpt-oss 20B, 24 bis 32 GB für 32 Milliarden. Ein Modell, das in die Grafikkarte passt, schreibt viel schneller als auf dem Prozessor.
Welches Modell Sie wählen sollten
Qwen3.5 schreibt in jeder Größe gut, und das in vielen Sprachen; Llama, Gemma, Mistral und gpt-oss sind gute Alternativen. Mit einer Grafikkarte wählen Sie ein Modell, das vollständig in ihren Speicher passt: Eines, das in den Arbeitsspeicher des Computers überläuft, wird deutlich langsamer. Ohne Grafikkarte bleiben Sie bei den kleinen Modellen mit etwa 4 Milliarden Parametern.
Was Twoody für Sie tut
- Es schlägt das Modell vor, das zu Ihrem PC passt, und installiert es mit einem Klick; sein Katalog umfasst 57 Modelle, jedes mit Angabe des Arbeitsspeichers, den es braucht.
- Es liest Ihre Dokumentordner, und seine Antworten nennen ihre Quellen, bis auf die Seite genau.
- Sein Installationsprogramm ist von Osmove signiert; das Modell läuft über Vulkan auf der Grafikkarte, wenn der Treiber es zulässt, sonst auf dem Prozessor.
Was sich vom Mac unterscheidet
Es ist dieselbe App, mit denselben Unterhaltungen und Dokumenten. Einige Funktionen gibt es nur auf dem Mac: das Lesen gescannter PDFs, Kalender und Kontakte des Mac, das Diktat mit der Spracherkennung von macOS (unter Windows wird Ihre Stimme auf dem PC von whisper.cpp transkribiert, das in der App enthalten ist) und MLX. Wie auf dem Mac aktualisiert sich Twoody selbst, nach Ihrem Klick.
Mit Twoody in drei Schritten
-
1
Tragen Sie sich in die Warteliste ein: Twoody ist in der privaten Beta, unter Windows wie auf dem Mac und unter Linux, und wir schreiben Ihnen, sobald es für Sie offen ist.
-
2
Installieren Sie das Modell, das Twoody für Ihren PC vorschlägt, mit einem Klick: 3,5 GB für Qwen3.5 4B, 6,7 GB für das 9B.
-
3
Stellen Sie Ihre erste Frage – und schalten Sie das WLAN aus, wenn Sie möchten.
Häufige Fragen
Ist es kostenlos, ein LLM lokal unter Windows auszuführen?
Ja: Die offenen Modelle lassen sich kostenlos herunterladen, und Twoody ist kostenlos. Es kostet nur Arbeitsspeicher Ihres PCs und Strom.
Brauche ich eine Grafikkarte?
Nein, aber sie beschleunigt erheblich. Ohne Grafikkarte läuft das Modell auf dem Prozessor: Kleine Modelle funktionieren, nur langsamer. Twoody nutzt die Grafikkarte über Vulkan, wenn ihr Treiber es zulässt.
Wie viel Arbeitsspeicher brauche ich für ein LLM unter Windows?
8 GB für ein kleines Modell wie Qwen3.5 4B. Unter Windows schlägt Twoody Qwen3.5 9B ab 32 GB vor, oder ab 16 GB, wenn die Grafikkarte 10 GB eigenen Speicher hat; ab 16 GB können Sie es selbst wählen. Mit einer Grafikkarte entscheidet ihr Speicher (VRAM): 8 GB für Modelle mit 4 bis 8 Milliarden Parametern, 16 GB für 14 Milliarden. Der LLM-Rechner zeigt, was auf welche Karte passt und wie schnell es läuft.
Windows meldet „Der Computer wurde durch Windows geschützt“: Ist das normal?
Ja, bei einer neuen App, bis sie sich einen Ruf aufgebaut hat – auch wenn sie signiert ist. Prüfen Sie, dass das Installationsprogramm von Osmove signiert ist (Eigenschaften › Digitale Signaturen), und klicken Sie dann auf „Weitere Informationen“ und „Trotzdem ausführen“.
Kann ich Twoody heute schon unter Windows nutzen?
In der privaten Beta ja: Twoody läuft unter Windows 10 und 11 (64 Bit), wie auf dem Mac und unter Linux. Die Downloads sind den Teilnehmern der Beta vorbehalten: Hinterlassen Sie Ihre E-Mail-Adresse, um auf die Warteliste zu kommen.
Probieren Sie Twoody, bevor es für alle offensteht.
Die private Beta ist kostenlos, auf Mac, Windows und Linux sowie auf iPhone und Android mit Twoody auf Ihrem Computer. Hinterlassen Sie Ihre E-Mail-Adresse, um eine Einladung anzufragen: Wir schreiben Ihnen, sobald sie für Sie bereit ist.