LLM local sous Linux
Faire tourner un LLM en local sous Linux
Un grand modèle de langage peut tourner entièrement sur votre machine Linux : en privé, hors ligne, gratuitement. Ce qu'il vous faut, quel modèle choisir, et la façon la plus simple de commencer, avec une AppImage ou un paquet .deb.
Pourquoi faire tourner un LLM sur votre machine
Le modèle répond et lit vos fichiers sur la machine. Une fois le modèle installé, ça fonctionne sans Internet. Pas d'abonnement, pas de quota, et aucun compte nécessaire. La contrepartie : un modèle qui tient sur un ordinateur personnel est plus petit que les plus grands modèles en ligne — excellent pour rédiger, résumer et interroger vos documents, moins pour les raisonnements les plus difficiles.
Ce qu'il vous faut
Un PC x86_64 sous Linux. Sur le processeur, c'est la mémoire de l'ordinateur (RAM) qui décide : 8 Go pour environ 4 milliards de paramètres, 16 Go pour 8 milliards, 24 Go pour 14 milliards. Une mémoire rapide compte : la DDR5 écrit plus vite que la DDR4.
Quel modèle choisir
Qwen3.5 écrit bien dans de nombreuses langues, à toutes les tailles ; Llama, Gemma, Mistral et gpt-oss sont de bonnes alternatives. Sur le processeur, restez sur les petits modèles, d'environ 4 à 9 milliards de paramètres : un plus grand tient en mémoire, mais écrit trop lentement pour être confortable.
Ce que Twoody fait pour vous
- Il propose le modèle qui convient à votre machine et l'installe en un clic ; son catalogue en compte 57, chacun avec la mémoire qu'il demande.
- Il lit vos dossiers de documents et ses réponses citent leurs sources, jusqu'à la page.
- En AppImage ou en paquet .deb, testé sur Ubuntu 24.04 ; le modèle tourne sur le processeur.
Ce qui change par rapport au Mac et à Windows
C'est la même app, avec les mêmes conversations et les mêmes documents. Sous Linux, le modèle tourne sur le processeur : Twoody n'y utilise pas la carte graphique. Les mises à jour sont manuelles pour l'instant : vous téléchargez vous-même la nouvelle version. Et quelques fonctions sont propres au Mac : la lecture des PDF scannés, le Calendrier et les Contacts du Mac, la dictée par la reconnaissance vocale de macOS (sous Linux, votre voix est transcrite sur la machine par whisper.cpp, fourni avec l'application) et MLX.
Avec Twoody, en trois étapes
-
1
Rejoignez la liste d'attente : Twoody est en bêta privée, sous Linux comme sur Mac et Windows, et nous vous écrirons quand il vous sera ouvert.
-
2
Installez le modèle qu'il propose pour votre machine, en un clic : 3,5 Go pour Qwen3.5 4B, 6,7 Go pour le 9B.
-
3
Posez votre première question — et coupez le Wi-Fi si vous voulez.
Questions fréquentes
Faire tourner un LLM en local sous Linux, est-ce gratuit ?
Oui : les modèles ouverts se téléchargent gratuitement, et Twoody est gratuit. Le seul coût est la mémoire de votre machine et son électricité.
Twoody utilise-t-il la carte graphique sous Linux ?
Non : sous Linux, Twoody fait tourner le modèle sur le processeur ; restez donc sur les petits modèles, d'environ 4 à 9 milliards de paramètres. Un serveur compatible OpenAI qui tourne sur votre machine avec la carte graphique peut aussi servir à Twoody : Modèles › « Avancé » › « Moteur » › « Autre adresse ».
Sur quelles distributions Twoody tourne-t-il ?
Twoody est testé sur Ubuntu 24.04 (x86_64). L'AppImage fonctionne sur la plupart des distributions ; le paquet .deb installe Twoody sur Debian, Ubuntu et leurs dérivées.
De combien de mémoire faut-il pour un LLM sous Linux ?
8 Go pour un petit modèle comme Qwen3.5 4B. Sous Linux, Twoody propose Qwen3.5 9B à partir de 32 Go ; dès 16 Go, vous pouvez le choisir vous-même. Le calculateur montre ce que fait tourner un PC sans carte graphique, en DDR4 ou en DDR5, et à quelle vitesse.
Peut-on utiliser Twoody sous Linux dès aujourd'hui ?
Dans la bêta privée, oui : Twoody tourne sous Linux (x86_64), comme sur Mac et Windows. Ses téléchargements sont réservés aux personnes de la bêta : laissez votre e-mail pour rejoindre la liste d'attente.
Essayez Twoody avant son ouverture à tous.
La bêta privée est gratuite, sur Mac, Windows et Linux, et sur iPhone et Android avec Twoody sur votre ordinateur. Laissez votre e-mail pour demander une invitation : nous vous écrirons quand elle sera prête pour vous.