Twoody
Lokales LLM auf dem Mac
Ein LLM lokal auf Ihrem Mac ausführen
Ein großes Sprachmodell kann komplett auf Ihrem Mac laufen: privat, offline und kostenlos. Was Sie brauchen, welches Modell Sie wählen sollten und wie Sie am einfachsten starten. Für den PC gibt es Twoody auch unter Windows und Linux.
Warum ein LLM auf Ihrem Mac?
Das Modell antwortet und liest Ihre Dateien direkt auf dem Gerät. Sobald das Modell installiert ist, funktioniert es ohne Internet. Es gibt kein Abo und kein Kontingent, und Sie brauchen kein Konto. Der Kompromiss: Ein Modell, das auf einen Mac passt, ist kleiner als die größten Online-Modelle – hervorragend zum Schreiben, für Zusammenfassungen und Ihre Dokumente, weniger für die schwierigsten Denkaufgaben.
Was Sie brauchen
Ein Mac mit Apple Silicon (M1 oder neuer) führt Modelle problemlos aus; ein Intel-Mac schafft kleine Modelle, langsam, auf seinem Prozessor. Der Arbeitsspeicher bestimmt das Modell, so wie Twoody ihn rechnet: 8 GB für etwa 4 Milliarden Parameter, 16 GB für 8 Milliarden, 24 GB für 14 Milliarden, 32 bis 36 GB für 24 bis 35 Milliarden in 4 Bit, 64 GB für 70 Milliarden.
Welches Modell Sie wählen sollten
Qwen3.5 schreibt in jeder Größe gut, und das in vielen Sprachen; Llama, Gemma, Mistral und gpt-oss sind gute Alternativen. Beginnen Sie mit dem Modell, das problemlos in Ihren Arbeitsspeicher passt: Ein größeres, das Ihren Mac zum Auslagern zwingt, ist langsamer als ein kleineres.
Was Twoody für Sie tut
- Es schlägt das Modell vor, das zu Ihrem Mac passt, und installiert es mit einem Klick; sein Katalog umfasst 57 Modelle, jedes mit Angabe des Arbeitsspeichers, den es braucht.
- Es liest Ihre Dokumentordner, und seine Antworten nennen ihre Quellen, bis auf die Seite genau.
- Es läuft auf Intel-Macs wie auf Macs mit Apple-Chip, unter macOS 13.3 oder neuer; auf einem Mac mit Apple-Chip und macOS 14 kann es zusätzlich MLX installieren, die Engine von Apple. Und es gibt Twoody auch für Windows und Linux.
Mit Twoody in drei Schritten
-
1
Tragen Sie sich in die Warteliste ein: Twoody ist in der privaten Beta, auf dem Mac wie unter Windows und Linux, und wir schreiben Ihnen, sobald es für Sie offen ist.
-
2
Installieren Sie das Modell, das Twoody für Ihren Mac vorschlägt, mit einem Klick: 3,5 GB für Qwen3.5 4B, 6,7 GB für das 9B.
-
3
Stellen Sie Ihre erste Frage – und schalten Sie das WLAN aus, wenn Sie möchten.
Häufige Fragen
Ist es kostenlos, ein LLM lokal auf dem Mac auszuführen?
Ja: Die offenen Modelle lassen sich kostenlos herunterladen, und Twoody ist kostenlos. Es kostet nur Arbeitsspeicher Ihres Mac und Strom.
Wie viel Arbeitsspeicher brauche ich für ein LLM auf dem Mac?
8 GB für ein kleines Modell wie Qwen3.5 4B, 16 GB für Qwen3.5 9B auf einem Mac mit Apple-Chip (32 GB auf einem Intel-Mac), 24 GB für Qwen3.6 35B-A3B. In Twoody nennt jedes Modell im Katalog den Arbeitsspeicher, den es braucht; der LLM-Rechner zeigt, was auf welchen Mac passt und wie schnell es läuft.
Kann ich ein lokales LLM auf einem Intel-Mac ausführen?
Ja, mit Twoody, unter macOS 13.3 oder neuer: Das Modell läuft auf dem Prozessor, kleine Modelle funktionieren also, wenn auch langsam.
Ist ein lokales LLM so gut wie ChatGPT?
Für alltägliche Texte und Fragen zu Ihren Dokumenten oft nah genug dran; bei den schwierigsten Fragen nicht. Dafür ist es privat, offline und kostenlos.
Probieren Sie Twoody, bevor es für alle offensteht.
Die private Beta ist kostenlos, auf Mac, Windows und Linux sowie auf iPhone und Android mit Twoody auf Ihrem Computer. Hinterlassen Sie Ihre E-Mail-Adresse, um eine Einladung anzufragen: Wir schreiben Ihnen, sobald sie für Sie bereit ist.