Twoody
로컬 LLM 계산기
RTX 3060 Ti에서 실행하는 로컬 LLM
전용 메모리 8GB인 RTX 3060 Ti에 들어가는 오픈 웨이트 모델과 그 쓰기·읽기 속도, 그리고 RTX 3060, RTX 3070, RTX 4060 Ti (8 GB), RTX 5060 Ti (16 GB) 등 다른 그래픽카드와의 비교입니다. Twoody 앱이 표시하는 메모리와 llama.cpp의 공개 벤치마크로 계산했습니다.
RTX 3060 Ti에 가장 알맞은 로컬 LLM
| 메모리 | 원활하게 실행되는 가장 강력한 모델 | 쓰기 속도 | Twoody 기본 제안 |
|---|---|---|---|
| 8GB | Qwen3.5 4B Twoody에서 클릭 한 번 | 초당 70~140 토큰 | Qwen3.5 9B(7.9GB) 일부가 프로세서에서 실행: 훨씬 느림 |
속도는 Twoody로 측정한 값이 아니라 llama.cpp 공개 벤치마크를 바탕으로 계산한 추정치입니다. 수치 확인일: 2026년 10월 16일.
'원활하게 실행되는 가장 강력한 모델'은 그래픽카드 메모리에 여유 있게 들어가고 최소한 읽는 속도(초당 5토큰)로 쓰는 가장 강력한 모델입니다. 'Twoody 기본 제안'은 이 그래픽카드와 메모리 32GB를 갖춘 PC에 앱이 가장 먼저 설치하는 모델과 여기서 필요한 메모리입니다.
Twoody는 비공개 베타 중입니다. 이메일을 남겨 참여를 신청해 주세요.
RTX 3060 Ti에서 원활하게 실행되는 모든 모델
계산기가 다루는 모델 62개(Twoody 카탈로그와 그보다 큰 몇 개) 중 23개가 여기서 원활하게 실행됩니다. 가장 강력한 모델부터, Twoody 앱이 이 컴퓨터에서 각 모델에 필요하다고 표시하는 메모리, 쓰기 속도, 문서를 읽는 데 걸리는 시간을 보여 줍니다.
| 모델 | 메모리 | 쓰기 속도 | 문서 읽기 |
|---|---|---|---|
| GLM-4 9B Twoody에서 클릭 한 번 | 필요한 메모리: 6.7GB 실행 가능 — 다른 앱을 닫으세요 | 초당 44~63 토큰 | 20쪽을 9초 |
| Qwen3 8B Twoody에서 클릭 한 번 | 필요한 메모리: 7.2GB 실행 가능 — 다른 앱을 닫으세요 | 초당 52~75 토큰 | 20쪽을 8초 |
| Llama 3.1 8B Twoody에서 클릭 한 번 | 필요한 메모리: 6.9GB 실행 가능 — 다른 앱을 닫으세요 | 초당 54~78 토큰 | 20쪽을 8초 |
| Gemma 4 E4B Twoody에서 클릭 한 번 | 필요한 메모리: 6.6GB 실행 가능 — 다른 앱을 닫으세요 | 초당 83~119 토큰 | 20쪽을 5초 |
| Qwen3.5 4B Twoody에서 클릭 한 번 | 필요한 메모리: 4.9GB 원활하게 실행 | 초당 70~140 토큰 | 20쪽을 5초 |
| Qwen3 4B Instruct 2507 Twoody에서 클릭 한 번 | 필요한 메모리: 4.9GB 원활하게 실행 | 초당 93~133 토큰 | 20쪽을 4초 |
| Nemotron 3 Nano 4B Twoody에서 클릭 한 번 | 필요한 메모리: 3.6GB 원활하게 실행 | 초당 65~131 토큰 | 20쪽을 4초 |
| Ministral 3 3B Twoody에서 클릭 한 번 | 필요한 메모리: 5GB 원활하게 실행 | 초당 100 토큰 이상 | 20쪽을 4초 |
| Phi-4 mini Twoody에서 클릭 한 번 | 필요한 메모리: 4.6GB 원활하게 실행 | 초당 95~137 토큰 | 20쪽을 4초 |
| Llama 3.2 3B Twoody에서 클릭 한 번 | 필요한 메모리: 3.9GB 원활하게 실행 | 초당 100 토큰 이상 | 20쪽을 3초 |
| Gemma 4 E2B Twoody에서 클릭 한 번 | 필요한 메모리: 4.7GB 원활하게 실행 | 초당 100 토큰 이상 | 20쪽을 2초 |
| Qwen3.5 2B Twoody에서 클릭 한 번 | 필요한 메모리: 2.9GB 원활하게 실행 | 초당 100 토큰 이상 | 20쪽을 2초 |
| Qwen3.5 0.8B Twoody에서 클릭 한 번 | 필요한 메모리: 1.7GB 원활하게 실행 | 초당 100 토큰 이상 | 20쪽을 1초 |
| GLM-Z1 9B Twoody에서 클릭 한 번 | 필요한 메모리: 6.7GB 실행 가능 — 다른 앱을 닫으세요 | 초당 44~63 토큰 | 20쪽을 9초 |
| DeepSeek-R1 8B Twoody에서 클릭 한 번 | 필요한 메모리: 7.2GB 실행 가능 — 다른 앱을 닫으세요 | 초당 52~75 토큰 | 20쪽을 8초 |
| DeepSeek-R1 Distill Llama 8B Twoody에서 클릭 한 번 | 필요한 메모리: 6.9GB 실행 가능 — 다른 앱을 닫으세요 | 초당 54~78 토큰 | 20쪽을 8초 |
| DeepSeek-R1 Distill Qwen 7B Twoody에서 클릭 한 번 | 필요한 메모리: 5.5GB 원활하게 실행 | 초당 58~84 토큰 | 20쪽을 8초 |
| Qwen3 4B Thinking 2507 Twoody에서 클릭 한 번 | 필요한 메모리: 4.9GB 원활하게 실행 | 초당 93~133 토큰 | 20쪽을 4초 |
| Phi-4 mini reasoning Twoody에서 클릭 한 번 | 필요한 메모리: 4.6GB 원활하게 실행 | 초당 95~137 토큰 | 20쪽을 4초 |
| SmolLM3 3B Twoody에서 클릭 한 번 | 필요한 메모리: 3.2GB 원활하게 실행 | 초당 100 토큰 이상 | 20쪽을 3초 |
| LFM2.5 2.6B Twoody에서 클릭 한 번 | 필요한 메모리: 2.4GB 원활하게 실행 | 초당 100 토큰 이상 | 20쪽을 3초 |
| MiniCPM5 2B Twoody에서 클릭 한 번 | 필요한 메모리: 2.5GB 원활하게 실행 | 초당 100 토큰 이상 | 20쪽을 3초 |
| Llama 3.2 1B Twoody에서 클릭 한 번 | 필요한 메모리: 1.6GB 원활하게 실행 | 초당 100 토큰 이상 | 20쪽을 1초 |
이 밖에 33개 모델은 일부가 프로세서에서 실행되어 훨씬 느리고, 6개 모델은 이 컴퓨터에는 너무 큽니다. 계산기에서 모두 보기
각 모델의 메모리는 이 컴퓨터에서 Twoody가 ‘모델’에 표시하는 값입니다. 계산식도, 파일(이미지를 읽는 파일 포함)도, 대화 길이도 같습니다(카탈로그 확인일: 2026년 10월 15일).
RTX 3060 Ti 대 RTX 3060, RTX 3070, RTX 4060 Ti (8 GB), RTX 5060 Ti (16 GB)
| 컴퓨터 | 메모리 | Qwen3.5 9B 쓰기 속도 | 문서 읽기 | 원활하게 실행되는 가장 강력한 모델 |
|---|---|---|---|---|
| RTX 3060 Ti | 8GB | 초당 14~28 토큰 일부가 프로세서에서 실행: 훨씬 느림 | 20쪽을 25초 | Qwen3.5 4B 초당 70~140 토큰 |
| RTX 3060 | 12GB | 초당 32~63 토큰 | 20쪽을 10초 | Gemma 4 12B 초당 33~48 토큰 |
| RTX 3070 | 8GB | 초당 13~27 토큰 일부가 프로세서에서 실행: 훨씬 느림 | 20쪽을 28초 | Qwen3.5 4B 초당 62~123 토큰 |
| RTX 4060 Ti (8 GB) | 8GB | 초당 12~24 토큰 일부가 프로세서에서 실행: 훨씬 느림 | 20쪽을 15초 | Qwen3.5 4B 초당 53~105 토큰 |
| RTX 5060 Ti (16 GB) | 16GB | 초당 39~78 토큰 | 20쪽을 6초 | Qwen3 14B 초당 32~46 토큰 |
어떤 모델이 들어가는지는 그래픽카드 전용 메모리가, 얼마나 빨리 쓰는지는 그 대역폭이 결정합니다. 모든 PC는 그래픽카드 외에 메모리 32GB를 갖춘 것으로 계산했습니다.
이 그래픽카드의 전용 메모리(VRAM)는 8GB이고, 초당 448GB로 읽힙니다. 완전히 들어가는 모델은 빠르게 쓰지만, 더 큰 모델은 컴퓨터 메모리로 넘쳐 훨씬 느려집니다.
표는 그래픽카드 외에 PC에 메모리 32GB가 있는 것으로 계산했습니다. 속도는 그래픽카드에서 실행되는 모델 기준이며, llama.cpp의 공개 벤치마크로 추정했습니다.
Windows·Linux용 Twoody는 비공개 베타 중입니다. Windows 10·11(x64)에서는 드라이버가 지원하면 Vulkan을 통해 RTX 3060 Ti에서, 그렇지 않으면 프로세서에서 모델을 실행하고, Linux에서는 프로세서에서 실행합니다. 이 페이지의 속도는 그래픽카드에서 실행되는 모델을 기준으로 한 추정치이며, Twoody로 측정한 값이 아닙니다.
LLM을 로컬에서 실행하는 방법에 관한 질문
RTX 3060 Ti에는 어떤 로컬 LLM이 좋을까요?
원활하게 실행되는 가장 강력한 모델은 Qwen3.5 4B입니다. 초당 70~140 토큰으로 씁니다. Twoody 카탈로그에서 클릭 한 번으로 설치할 수 있습니다. 메모리가 32GB인 PC에서 Twoody가 기본으로 제안하는 모델은 Qwen3.5 9B입니다. 여기서 필요한 메모리는 7.9GB이며, Twoody가 기억, 도구, 내 문서로 측정한 모델 중 하나입니다.
RTX 3060 Ti의 8GB에는 무엇이 들어가나요?
계산기가 다루는 모델 62개(Twoody 카탈로그와 그보다 큰 몇 개) 중 23개가 여기서 그래픽카드 위에서 원활하게 실행됩니다. 가장 큰 모델은 Qwen3 8B로, 7.2GB가 필요합니다. 더 큰 모델은 컴퓨터 메모리로 넘쳐 훨씬 느려집니다.
RTX 3060 Ti에서는 초당 몇 토큰을 쓰나요?
Twoody가 여기서 제안하는 Qwen3.5 9B로는 초당 14~28 토큰으로 쓰고, 약 20쪽 문서를 25초 만에 읽습니다. 여기서는 일부가 프로세서에서 실행되어 훨씬 느립니다. 이 속도는 그래픽카드에서 실행되는 모델 기준으로 llama.cpp 공개 벤치마크에 기반한 추정치이며, Twoody로 측정한 값이 아닙니다.
RTX 3060 Ti, RTX 3060, RTX 3070, RTX 4060 Ti (8 GB), RTX 5060 Ti (16 GB) 중 어느 쪽이 더 빨리 쓰나요?
Twoody가 제안하는 Qwen3.5 9B 기준: RTX 3060 Ti 초당 14~28 토큰(일부 프로세서에서 실행); RTX 3060 초당 32~63 토큰; RTX 3070 초당 13~27 토큰(일부 프로세서에서 실행); RTX 4060 Ti (8 GB) 초당 12~24 토큰(일부 프로세서에서 실행); RTX 5060 Ti (16 GB) 초당 39~78 토큰. 어떤 모델이 들어가는지는 그래픽카드 메모리가, 얼마나 빨리 쓰는지는 그 대역폭이 결정합니다.
RTX 3060 Ti에서 Twoody가 그래픽카드를 사용하나요?
비공개 베타의 Windows 10·11(x64)에서는 그렇습니다. 드라이버가 지원하면 Twoody는 Vulkan을 통해 그래픽카드에서, 그렇지 않으면 프로세서에서 모델을 실행합니다. Linux에서는 프로세서에서 실행합니다. 이메일을 남기시면 대기자 명단에 등록됩니다.
모두에게 공개되기 전에 Twoody를 먼저 써 보세요.
비공개 베타는 무료이며, Mac, Windows, Linux에서, 그리고 컴퓨터의 Twoody와 함께 iPhone과 Android에서 사용할 수 있습니다. 이메일을 남겨 초대를 요청하시면 준비되는 대로 연락드리겠습니다.