Eine Offline-Alternative zu ChatGPT

Funktioniert ChatGPT offline?

Nein. ChatGPT, auch die Mac-App, sendet jede Frage an die Server von OpenAI und braucht eine Verbindung. Um KI ohne Internet zu nutzen, muss das Modell auf Ihrem eigenen Computer laufen: Genau das ist ein lokales LLM.

Wie Twoody offline funktioniert

Bei der Einrichtung lädt Twoody einmalig ein Modell herunter, das zu Ihrem Mac passt: 2,5 bis 9 GB. Ab dann werden Unterhaltungen, Dokumente und Sprachnachrichten auf dem Mac verarbeitet: Schalten Sie das WLAN aus, und Twoody antwortet weiter. Nur die Websuche, standardmäßig ausgeschaltet, braucht das Internet.

Auch privat

Was den Mac nie verlässt, kann auch nicht nach außen dringen: Ihre Unterhaltungen und Dokumente bleiben auf Ihrem Mac, und Twoody sendet keine Telemetrie. Das Wenige, das doch hinausgeht – die Suche nach Updates, die Modell-Downloads, die Websuche, wenn Sie sie einschalten –, ist aufgelistet, samt einer Anleitung zur Überprüfung.

Wo es hilft

• Im Flugzeug oder im Zug.
• In einem abgeschotteten oder überwachten Netzwerk.
• Bei vertraulichen Unterlagen: Mandanten, Patienten, Verträge.
• Überall, wo die Verbindung schlecht ist.

Was Sie erwarten können

Ein Modell, das auf einem Mac läuft, ist kleiner als die von ChatGPT: hervorragend zum Schreiben, Zusammenfassen und für Fragen zu Ihren Dokumenten, weniger für die schwierigsten Denkaufgaben. Offline weiß es nichts von dem, was nach seinem Training geschehen ist.