Twoody
Lokales LLM auf dem Mac
Ein LLM lokal auf Ihrem Mac ausführen
Ein großes Sprachmodell kann komplett auf Ihrem Mac laufen: privat, offline und kostenlos. Was Sie brauchen, welches Modell Sie wählen sollten und wie Sie am einfachsten starten.
Warum ein LLM auf Ihrem Mac?
Ihre Fragen und Ihre Dateien bleiben auf dem Gerät. Es funktioniert ohne Internet. Es gibt kein Abo, kein Kontingent und kein Konto. Der Kompromiss: Ein Modell, das auf einen Mac passt, ist kleiner als die größten Online-Modelle – hervorragend zum Schreiben, für Zusammenfassungen und Ihre Dokumente, weniger für die schwierigsten Denkaufgaben.
Was Sie brauchen
Ein Mac mit Apple Silicon (M1 oder neuer) führt Modelle problemlos aus; ein Intel-Mac schafft kleine Modelle, langsam, auf seinem Prozessor. Der Arbeitsspeicher bestimmt das Modell: 8 GB für etwa 4 Milliarden Parameter, 16 GB für 8 Milliarden, 24 GB für 14 Milliarden, 48 GB und mehr für die größten Modelle, die ein Laptop fassen kann.
Welches Modell Sie wählen sollten
Qwen3 schreibt in jeder Größe gut, und das in vielen Sprachen; Llama, Gemma, Mistral und gpt-oss sind gute Alternativen. Beginnen Sie mit dem Modell, das problemlos in Ihren Arbeitsspeicher passt: Ein größeres, das Ihren Mac zum Auslagern zwingt, ist langsamer als ein kleineres.
Drei Möglichkeiten
- Twoody – eine Mac-App, die das passende Modell für Ihren Mac vorschlägt und mit einem Klick installiert; sie liest Ihre Dokumentordner und nennt sie als Quellen. Läuft auf Intel-Macs und unter macOS 13.
- LM Studio – eine App, um Tausende Modelle und ihre Einstellungen zu erkunden. Apple Silicon und macOS 14 oder neuer.
- Ollama – eine Engine, bedient über das Terminal, eine API oder die eigene App. macOS 14 oder neuer.
Mit Twoody in drei Schritten
-
1
Laden Sie Twoody für Mac herunter: rund 160 MB, von Apple notarisiert.
-
2
Installieren Sie das Modell, das Twoody für Ihren Mac vorschlägt: 2,5 bis 9 GB, ein Klick.
-
3
Stellen Sie Ihre erste Frage – und schalten Sie das WLAN aus, wenn Sie möchten.
Häufige Fragen
Ist es kostenlos, ein LLM lokal auf dem Mac auszuführen?
Ja: Die offenen Modelle lassen sich kostenlos herunterladen, und Apps wie Twoody, LM Studio und Ollama sind kostenlos. Es kostet nur Arbeitsspeicher Ihres Mac und Strom.
Wie viel Arbeitsspeicher brauche ich für ein LLM auf dem Mac?
8 GB für ein kleines Modell wie Qwen3 4B, 16 GB für Qwen3 8B, 24 GB für Qwen3 14B. Der LLM-Rechner zeigt, was auf welchen Mac passt und wie schnell es läuft.
Kann ich ein lokales LLM auf einem Intel-Mac ausführen?
Ja, mit Twoody, unter macOS 13 oder neuer: Das Modell läuft auf dem Prozessor, kleine Modelle funktionieren also, wenn auch langsam. LM Studio und Ollama brauchen macOS 14, LM Studio zudem einen Mac mit Apple Silicon.
Ist ein lokales LLM so gut wie ChatGPT?
Für alltägliche Texte und Fragen zu Ihren Dokumenten oft nah genug dran; bei den schwierigsten Fragen nicht. Dafür ist es privat, offline und kostenlos.
Lesen Sie auch
Probieren Sie lokale KI auf Ihrem Mac aus – kostenlos.
Version 0.12.1 · macOS 13 oder neuer · ohne Konto, ohne Abo. Laden Sie die App herunter, installieren Sie ein Modell mit einem Klick und stellen Sie Ihre erste Frage – sogar offline.