Rode um LLM localmente no seu PC com Windows

Por que rodar um LLM no seu PC

O modelo responde e lê seus arquivos no PC. Funciona sem internet. Sem assinatura, sem cota e sem precisar de conta. A contrapartida: um modelo que cabe em um PC é menor que os maiores modelos online — excelente para escrever, resumir e trabalhar com seus documentos, nem tanto para os raciocínios mais difíceis.

Do que você precisa

Windows 10 ou 11, 64 bits. Duas memórias contam. No processador, quem decide é a memória do computador (RAM): 8 GB para cerca de 4 bilhões de parâmetros, 16 GB para 8 bilhões, 24 GB para 14 bilhões. Em uma placa de vídeo, quem decide é a memória dela (VRAM): 8 GB para modelos de 4 a 8 bilhões de parâmetros, 16 GB para 14 bilhões ou para o gpt-oss-20b, 24 a 32 GB para 32 bilhões. Um modelo que cabe na placa de vídeo escreve muito mais rápido do que no processador.

Qual modelo escolher

O Qwen3.5 escreve bem em muitos idiomas, em todos os tamanhos; Llama, Gemma, Mistral e gpt-oss são boas alternativas. Com uma placa de vídeo, escolha um modelo que caiba inteiro na memória dela: um que transborda para a memória do computador fica bem mais lento. Sem placa de vídeo, fique com os modelos pequenos, de cerca de 4 bilhões de parâmetros.

Três maneiras de fazer isso

• Twoody — o mesmo app do Mac: ele sugere o modelo certo para o seu PC e o instala com um clique, lê suas pastas de documentos e as cita. O instalador é assinado pela Osmove; o modelo roda na placa de vídeo via Vulkan quando o driver permite e, senão, no processador.
• LM Studio — um app para explorar milhares de modelos e suas configurações. Um PC x64 com processador compatível com AVX2, ou um PC ARM (Snapdragon X Elite); 16 GB de memória recomendados.
• Ollama — um motor usado pelo terminal, por uma API ou pelo app dele. Windows 10 22H2 ou posterior; ele usa placas NVIDIA, e placas AMD Radeon via ROCm ou Vulkan.

O que muda em relação ao Mac

É o mesmo app, com as mesmas conversas e os mesmos documentos. Três coisas são exclusivas do Mac: a leitura de PDFs digitalizados, Contatos e Calendário, e o ditado pelo reconhecimento de fala do macOS — no Windows, sua voz é transcrita no PC pelo whisper.cpp, que já vem com o app. Como no Mac, o Twoody se atualiza sozinho, depois do seu clique.

Com o Twoody, em três passos

1. 1

   Entre na lista de espera: o Twoody está em beta privado, no Windows e também no Mac e no Linux, e vamos escrever para você quando ele for liberado para você.

2. 2

   Instale o modelo que ele sugere para o seu PC: 2,8 ou 5,8 GB, com um clique.

3. 3

   Faça sua primeira pergunta — e desligue o Wi-Fi, se quiser.