Ejecuta un LLM local en tu PC con Windows

Por qué ejecutar un LLM en tu PC

El modelo responde y lee tus archivos en el propio PC. Funciona sin internet. No hay suscripción, ni límites de uso, ni necesidad de cuenta. La contrapartida: un modelo que cabe en un PC es más pequeño que los mayores modelos en línea. Es excelente para redactar, resumir y trabajar con tus documentos, pero no tanto para los razonamientos más difíciles.

Qué necesitas

Windows 10 u 11, de 64 bits. Cuentan dos memorias. En el procesador, decide la memoria del ordenador (RAM): 8 GB para unos 4000 millones de parámetros, 16 GB para 8000 millones, 24 GB para 14 000 millones. En una tarjeta gráfica, decide su propia memoria (VRAM): 8 GB para modelos de 4000 a 8000 millones de parámetros, 16 GB para 14 000 millones o gpt-oss-20b, de 24 a 32 GB para 32 000 millones. Un modelo que cabe en la tarjeta gráfica escribe mucho más rápido que en el procesador.

Qué modelo elegir

Qwen3.5 escribe bien en muchos idiomas y en todos sus tamaños; Llama, Gemma, Mistral y gpt-oss son buenas alternativas. Con una tarjeta gráfica, elige un modelo que quepa entero en su memoria: uno que se desborde a la memoria del ordenador se ralentiza mucho. Sin tarjeta gráfica, quédate con los modelos pequeños, de unos 4000 millones de parámetros.

Tres formas de hacerlo

• Twoody: la misma app que en el Mac. Te propone el modelo adecuado para tu PC y lo instala con un clic, lee tus carpetas de documentos y los cita. Su instalador está firmado por Osmove; el modelo funciona en la tarjeta gráfica mediante Vulkan cuando el controlador lo permite y, si no, en el procesador.
• LM Studio: una app para explorar miles de modelos y sus ajustes. Un PC x64 cuyo procesador admita AVX2, o un PC ARM (Snapdragon X Elite); se recomiendan 16 GB de memoria.
• Ollama: un motor que se usa desde el terminal, una API o su app. Windows 10 22H2 o posterior; usa las tarjetas NVIDIA, y las AMD Radeon mediante ROCm o Vulkan.

Qué cambia respecto al Mac

Es la misma app, con las mismas conversaciones y los mismos documentos. Tres cosas son exclusivas del Mac: la lectura de PDF escaneados, Contactos y Calendario, y el dictado con el reconocimiento de voz de macOS; en Windows, tu voz se transcribe en el PC con whisper.cpp, incluido en la app. Como en el Mac, Twoody se actualiza solo, después de tu clic.

Con Twoody, en tres pasos

1. 1

   Únete a la lista de espera: Twoody está en beta privada, en Windows igual que en el Mac y en Linux, y te escribiremos cuando esté abierto para ti.

2. 2

   Instala el modelo que te propone para tu PC: 2,8 o 5,8 GB, con un clic.

3. 3

   Haz tu primera pregunta, y apaga el Wi-Fi si quieres.