Twoody

Windows에서 로컬 LLM

Windows PC에서 LLM을 로컬로 실행하기

대규모 언어 모델은 Windows PC에서 완전히 실행될 수 있습니다. 비공개로, 오프라인에서, 무료로. 필요한 것, 모델 고르는 법, 그래픽 카드와 프로세서, 가장 쉽게 시작하는 방법을 알려 드립니다.

PC에서 LLM을 실행하는 이유

모델이 PC 안에서 답하고 파일을 읽습니다. 모델을 설치한 뒤에는 인터넷 없이도 작동합니다. 구독도, 사용량 제한도 없고, 계정도 필요 없습니다. 대신 PC에 맞는 모델은 가장 큰 온라인 모델보다 작습니다. 글쓰기, 요약, 내 문서 작업에는 훌륭하지만, 가장 어려운 추론에는 부족합니다.

필요한 것

64비트 Windows 10 또는 11. 중요한 메모리는 두 가지입니다. 프로세서로 실행할 때는 컴퓨터의 메모리(RAM)가 결정합니다. 8 GB는 약 40억 매개변수, 16 GB는 80억, 24 GB는 140억입니다. 그래픽 카드로 실행할 때는 카드 자체의 메모리(VRAM)가 결정합니다. 8 GB는 40억~80억 매개변수 모델, 16 GB는 140억 또는 gpt-oss 20B, 24~32 GB는 320억입니다. 그래픽 카드에 들어가는 모델은 프로세서보다 훨씬 빠르게 답을 씁니다.

어떤 모델을 고를까

Qwen3.5는 모든 크기에서 여러 언어로 글을 잘 씁니다. Llama, Gemma, Mistral, gpt-oss도 좋은 대안입니다. 그래픽 카드가 있다면 그 메모리에 완전히 들어가는 모델을 고르세요. 컴퓨터 메모리로 넘치는 모델은 크게 느려집니다. 그래픽 카드가 없다면 약 40억 매개변수의 작은 모델을 쓰세요.

Twoody가 해 드리는 일

  • PC에 맞는 모델을 제안하고 클릭 한 번으로 설치합니다. 카탈로그에는 모델 57개가 있으며, 모델마다 필요한 메모리가 표시됩니다.
  • 문서 폴더를 읽고, 답변에 출처를 쪽 단위까지 밝힙니다.
  • 설치 프로그램은 Osmove가 서명했으며, 드라이버가 지원하면 모델이 Vulkan을 통해 그래픽 카드에서, 그렇지 않으면 프로세서에서 실행됩니다.

Mac과 다른 점

같은 대화와 문서를 다루는 같은 앱입니다. 몇 가지 기능은 Mac 전용입니다. 스캔한 PDF 읽기, Mac의 캘린더와 연락처, macOS 음성 인식을 이용한 받아쓰기(Windows에서는 앱에 포함된 whisper.cpp가 PC에서 음성을 텍스트로 변환합니다), 그리고 MLX입니다. Mac과 마찬가지로 Twoody는 사용자가 클릭하면 스스로 업데이트됩니다.

Twoody로 세 단계면 됩니다

  1. 1

    대기자 명단에 등록하세요. Twoody는 Windows에서도 Mac, Linux에서도 비공개 베타 중이며, 이용할 수 있게 되면 연락드립니다.

  2. 2

    Twoody가 PC에 맞게 제안하는 모델을 클릭 한 번으로 설치하세요. Qwen3.5 4B는 3.5 GB, 9B는 6.7 GB입니다.

  3. 3

    첫 질문을 해 보세요. 원한다면 Wi-Fi를 끈 채로요.

자주 묻는 질문

Windows에서 LLM을 로컬로 실행하는 것은 무료인가요?

네. 오픈 웨이트 모델은 무료로 다운로드할 수 있고, Twoody도 무료입니다. 드는 비용은 PC의 메모리와 전기뿐입니다.

그래픽 카드가 필요한가요?

아니요. 하지만 있으면 훨씬 빨라집니다. 없으면 모델이 프로세서에서 실행되어 작은 모델이 더 느리게 작동합니다. Twoody는 드라이버가 지원하면 Vulkan을 통해 그래픽 카드를 사용합니다.

Windows에서 LLM을 실행하려면 메모리가 얼마나 필요한가요?

Qwen3.5 4B 같은 작은 모델은 8 GB면 됩니다. Windows에서 Twoody는 메모리가 32 GB 이상이거나, 16 GB 이상이면서 자체 메모리가 10 GB인 그래픽 카드가 있으면 Qwen3.5 9B를 제안합니다. 16 GB부터는 이 모델을 직접 고를 수도 있습니다. 그래픽 카드가 있다면 그 메모리(VRAM)가 결정합니다. 8 GB는 40억~80억 매개변수 모델, 16 GB는 140억입니다. 계산기에서 각 카드에 맞는 모델과 속도를 확인할 수 있습니다.

Windows에 ‘Windows의 PC 보호’가 표시됩니다. 정상인가요?

네, 새로운 앱은 서명되어 있어도 평판이 쌓일 때까지 이 메시지가 표시됩니다. 설치 프로그램이 Osmove의 서명을 받았는지(속성 › 디지털 서명) 확인한 뒤 ‘추가 정보’와 ‘실행’을 클릭하세요.

지금 Windows에서 Twoody를 사용할 수 있나요?

비공개 베타에서는 가능합니다. Twoody는 Mac, Linux와 마찬가지로 Windows 10 및 11(64비트)에서 실행됩니다. 다운로드는 베타 참여자용입니다. 이메일을 남기고 대기자 명단에 등록하세요.

모두에게 공개되기 전에 Twoody를 먼저 써 보세요.

비공개 베타는 무료이며, Mac, Windows, Linux에서, 그리고 컴퓨터의 Twoody와 함께 iPhone과 Android에서 사용할 수 있습니다. 이메일을 남겨 초대를 요청하시면 준비되는 대로 연락드리겠습니다.

확인 이메일, Twoody가 준비되었을 때 알림 이메일, 그리고 Twoody 소식을 보내 드립니다. 클릭 한 번으로 구독을 해지할 수 있습니다. 이메일 주소의 사용 방법.