로컬 LLM 계산기
내 컴퓨터에서 돌아가는 로컬 LLM은 무엇이고, 얼마나 빠를까요?
사용하는 Mac 또는 PC를 고르세요. 메모리에 맞는 오픈 웨이트 모델, 글을 쓰는 속도, 문서를 읽는 데 걸리는 시간, 각 모델에 알맞은 용도를 확인할 수 있습니다.
이 컴퓨터에 맞는 모델
32GB Intel MacBook Pro 15″, 16″(2018~2019)에서는 62개 모델 중 50개가 원활하게 실행됩니다.
Twoody가 이 Mac에 제안하는 모델
Qwen3.5 9B, 클릭 한 번으로 설치됩니다. 대화 길이는 64k 토큰입니다.
필요한 메모리: 7.9GB · 원활하게 실행 · 초당 2.2~4 토큰 (읽는 속도보다 느림) · 20쪽을 11분
메모리가 24GB 이상이면 Twoody는 더 큰 Qwen3.6 35B-A3B도 제안합니다. 이 컴퓨터에서는 메모리 16.8GB가 필요합니다.
Intel Mac에서는 모델이 프로세서에서 실행됩니다. 작동은 하지만 느립니다.
Twoody는 비공개 베타 중입니다. 이메일을 남겨 참여를 신청해 주세요.
이 컴퓨터에서 원활하게 실행되는 모델
28GB 중 16.8GB
원활하게 실행
초당 8.3~15 토큰
읽는 속도보다 빠름
20쪽을 4분
- 대화와 글쓰기
- 내 문서
- 번역
- 코드
- 추론
- 에이전트
28GB 중 21.2GB
원활하게 실행
초당 6.5~12 토큰
읽는 속도와 비슷함
20쪽을 4분
- 대화와 글쓰기
- 내 문서
- 번역
- 코드
- 추론
- 에이전트
28GB 중 19.6GB
원활하게 실행
초당 0.8~1.4 토큰
읽는 속도보다 느림
20쪽을 36분
- 대화와 글쓰기
- 내 문서
- 번역
- 코드
- 에이전트
28GB 중 19.4GB
원활하게 실행
초당 0.8~1.5 토큰
읽는 속도보다 느림
20쪽을 34분
- 대화와 글쓰기
- 내 문서
- 번역
- 코드
- 추론
- 에이전트
28GB 중 19.2GB
원활하게 실행
초당 6.1~11 토큰
읽는 속도와 비슷함
20쪽을 5분
- 대화와 글쓰기
- 내 문서
- 번역
- 코드
- 추론
- 에이전트
28GB 중 20.5GB
원활하게 실행
초당 0.7~1.3 토큰
읽는 속도보다 느림
20쪽을 31분
- 대화와 글쓰기
- 내 문서
- 번역
- 코드
- 추론
- 에이전트
28GB 중 15.5GB
원활하게 실행
초당 5.8~10 토큰
읽는 속도와 비슷함
20쪽을 5분
- 대화와 글쓰기
- 내 문서
- 번역
- 코드
- 추론
- 에이전트
28GB 중 17.3GB
원활하게 실행
초당 1.1~1.9 토큰
읽는 속도보다 느림
20쪽을 26분
- 대화와 글쓰기
- 내 문서
- 번역
- 코드
- 에이전트
28GB 중 11.2GB
원활하게 실행
초당 1.7~3 토큰
읽는 속도보다 느림
20쪽을 16분
- 대화와 글쓰기
- 내 문서
- 번역
- 추론
28GB 중 11.9GB
원활하게 실행
초당 1.7~2.9 토큰
읽는 속도보다 느림
20쪽을 16분
- 대화와 글쓰기
- 내 문서
28GB 중 11.6GB
원활하게 실행
초당 1.8~3.2 토큰
읽는 속도보다 느림
20쪽을 15분
- 대화와 글쓰기
- 내 문서
- 번역
28GB 중 7.6GB
원활하게 실행
초당 2.1~3.8 토큰
읽는 속도보다 느림
20쪽을 13분
- 대화와 글쓰기
- 내 문서
- 번역
- 추론
28GB 중 7.9GB
원활하게 실행
초당 2.5~4.4 토큰
읽는 속도보다 느림
20쪽을 11분
- 대화와 글쓰기
- 내 문서
- 번역
- 추론
28GB 중 7.9GB
원활하게 실행
초당 2.2~4 토큰
읽는 속도보다 느림
20쪽을 11분
- 대화와 글쓰기
- 내 문서
- 번역
- 추론
28GB 중 6.7GB
원활하게 실행
초당 2.5~4.4 토큰
읽는 속도보다 느림
20쪽을 10분
- 대화와 글쓰기
- 내 문서
- 번역
28GB 중 8.4GB
원활하게 실행
초당 2.9~5.1 토큰
읽는 속도보다 느림
20쪽을 10분
- 대화와 글쓰기
- 내 문서
- 번역
28GB 중 8GB
원활하게 실행
초당 2.7~4.8 토큰
읽는 속도보다 느림
20쪽을 10분
- 대화와 글쓰기
- 내 문서
- 번역
28GB 중 7.2GB
원활하게 실행
초당 2.9~5.3 토큰
읽는 속도보다 느림
20쪽을 9분
- 대화와 글쓰기
- 내 문서
- 번역
- 추론
28GB 중 6.9GB
원활하게 실행
초당 3~5.4 토큰
읽는 속도보다 느림
20쪽을 9분
- 대화와 글쓰기
- 내 문서
- 번역
28GB 중 8.2GB
원활하게 실행
초당 3~5.4 토큰
읽는 속도보다 느림
20쪽을 8분
- 대화와 글쓰기
- 내 문서
28GB 중 6.6GB
원활하게 실행
초당 5.1~9.1 토큰
읽는 속도와 비슷함
20쪽을 5분
- 대화와 글쓰기
- 번역
28GB 중 4.9GB
원활하게 실행
초당 4.6~8.2 토큰
읽는 속도와 비슷함
20쪽을 5분
- 대화와 글쓰기
- 번역
28GB 중 4.9GB
원활하게 실행
초당 5.7~10 토큰
읽는 속도와 비슷함
20쪽을 4분
- 대화와 글쓰기
- 번역
28GB 중 3.6GB
원활하게 실행
초당 4.5~8 토큰
읽는 속도와 비슷함
20쪽을 4분
- 대화와 글쓰기
28GB 중 5GB
원활하게 실행
초당 6.7~12 토큰
읽는 속도와 비슷함
20쪽을 4분
- 대화와 글쓰기
- 번역
28GB 중 4.6GB
원활하게 실행
초당 5.8~10 토큰
읽는 속도와 비슷함
20쪽을 4분
- 대화와 글쓰기
- 번역
28GB 중 3.9GB
원활하게 실행
초당 7.1~13 토큰
읽는 속도보다 빠름
20쪽을 4분
- 대화와 글쓰기
- 번역
28GB 중 4.7GB
원활하게 실행
초당 9.7~17 토큰
읽는 속도보다 빠름
20쪽을 3분
28GB 중 2.9GB
원활하게 실행
초당 9.1~16 토큰
읽는 속도보다 빠름
20쪽을 3분
28GB 중 1.7GB
원활하게 실행
초당 15~45 토큰
거의 즉시
20쪽을 60초
28GB 중 18.1GB
원활하게 실행
초당 7.1~13 토큰
읽는 속도보다 빠름
20쪽을 4분
- 대화와 글쓰기
- 내 문서
- 번역
- 코드
- 추론
- 에이전트
28GB 중 19.1GB
원활하게 실행
초당 6.1~11 토큰
읽는 속도와 비슷함
20쪽을 5분
- 대화와 글쓰기
- 내 문서
- 번역
- 코드
- 에이전트
28GB 중 19.2GB
원활하게 실행
초당 6.1~11 토큰
읽는 속도와 비슷함
20쪽을 5분
- 대화와 글쓰기
- 내 문서
- 번역
- 코드
- 추론
- 에이전트
28GB 중 16.1GB
원활하게 실행
초당 1.1~1.9 토큰
읽는 속도보다 느림
20쪽을 26분
- 대화와 글쓰기
- 내 문서
- 번역
- 코드
- 추론
- 에이전트
28GB 중 16.1GB
원활하게 실행
초당 1.1~1.9 토큰
읽는 속도보다 느림
20쪽을 26분
- 대화와 글쓰기
- 내 문서
- 번역
- 코드
- 에이전트
28GB 중 12GB
원활하게 실행
초당 5.1~9.1 토큰
읽는 속도와 비슷함
20쪽을 5분
- 대화와 글쓰기
- 내 문서
- 번역
- 코드
- 추론
- 에이전트
28GB 중 10.4GB
원활하게 실행
초당 8.1~14 토큰
읽는 속도보다 빠름
20쪽을 3분
- 대화와 글쓰기
- 내 문서
- 번역
- 코드
28GB 중 11.7GB
원활하게 실행
초당 1.7~3 토큰
읽는 속도보다 느림
20쪽을 16분
- 대화와 글쓰기
- 내 문서
- 번역
- 추론
28GB 중 11.9GB
원활하게 실행
초당 1.7~2.9 토큰
읽는 속도보다 느림
20쪽을 16분
- 대화와 글쓰기
- 내 문서
- 추론
28GB 중 10.5GB
원활하게 실행
초당 1.8~3.2 토큰
읽는 속도보다 느림
20쪽을 15분
- 대화와 글쓰기
- 내 문서
- 번역
- 추론
28GB 중 6.7GB
원활하게 실행
초당 2.5~4.4 토큰
읽는 속도보다 느림
20쪽을 10분
- 대화와 글쓰기
- 내 문서
- 번역
- 추론
28GB 중 7.2GB
원활하게 실행
초당 2.9~5.3 토큰
읽는 속도보다 느림
20쪽을 9분
- 대화와 글쓰기
- 내 문서
- 번역
- 추론
28GB 중 6.9GB
원활하게 실행
초당 3~5.4 토큰
읽는 속도보다 느림
20쪽을 9분
- 대화와 글쓰기
- 내 문서
- 번역
- 추론
28GB 중 5.5GB
원활하게 실행
초당 3.2~5.7 토큰
읽는 속도보다 느림
20쪽을 8분
- 대화와 글쓰기
- 내 문서
- 번역
- 추론
28GB 중 4.9GB
원활하게 실행
초당 5.7~10 토큰
읽는 속도와 비슷함
20쪽을 4분
- 대화와 글쓰기
- 번역
28GB 중 4.6GB
원활하게 실행
초당 5.8~10 토큰
읽는 속도와 비슷함
20쪽을 4분
- 대화와 글쓰기
28GB 중 3.2GB
원활하게 실행
초당 7.5~13 토큰
읽는 속도보다 빠름
20쪽을 3분
- 대화와 글쓰기
- 번역
28GB 중 2.4GB
원활하게 실행
초당 7.5~13 토큰
읽는 속도보다 빠름
20쪽을 3분
28GB 중 2.5GB
원활하게 실행
초당 8.9~16 토큰
읽는 속도보다 빠름
20쪽을 3분
28GB 중 1.6GB
원활하게 실행
초당 13~38 토큰
거의 즉시
20쪽을 79초
이 컴퓨터에는 너무 큰 모델(12)
- Qwen3.8 27B · 28GB 중 21.4GB
- Nemotron 3 Nano 30B-A3B · 28GB 중 21.4GB
- Qwen3.6 27B · 28GB 중 21.5GB
- Qwen3 32B · 28GB 중 22.7GB
- DeepSeek-R1 Distill Qwen 32B · 28GB 중 22.8GB
- Qwen3.5 35B-A3B · 28GB 중 22.9GB
- Llama 3.3 70B · 28GB 중 44.9GB
- Qwen3-Next 80B-A3B · 28GB 중 46.3GB · Twoody 카탈로그에 없음
- gpt-oss 120B · 28GB 중 59.9GB · Twoody 카탈로그에 없음
- Mistral Small 4 119B · 28GB 중 69.4GB · Twoody 카탈로그에 없음
- Qwen3.5 122B-A10B · 28GB 중 74.7GB · Twoody 카탈로그에 없음
- Qwen3 235B-A22B Instruct 2507 · 28GB 중 136.1GB · Twoody 카탈로그에 없음
각 모델의 메모리는 이 컴퓨터에서 Twoody가 ‘모델’에 표시하는 값입니다. 계산식도, 파일(이미지를 읽는 파일 포함)도, 대화 길이도 같습니다(카탈로그 확인일: 2026년 10월 15일). 속도는 Twoody로 측정한 값이 아니라 llama.cpp 공개 벤치마크를 바탕으로 계산한 추정치입니다. 수치 확인일: 2026년 10월 16일.
결과 읽는 법
내 컴퓨터와 메모리 용량을 고르면, 계산기가 Twoody 카탈로그의 모델과 Twoody가 제공하지 않는 더 큰 모델 몇 가지를 하나씩 살펴보고, 그 컴퓨터에서 각각 어떻게 실행되는지 알려 줍니다. 여기서 메모리는 Mac에서는 통합 메모리, 그래픽카드가 없는 PC에서는 시스템 메모리(RAM)를 말합니다.
- Twoody가 제안하는 모델
- 앱이 그 컴퓨터에 가장 먼저 설치하는 모델입니다. Twoody가 기억, 도구, 내 문서로 직접 측정한 모델 중 하나이며, 그 컴퓨터에서 필요한 메모리도 함께 보여 줍니다.
- 이 컴퓨터에서 원활하게 실행되는 모델
- 메모리에 들어가는 모델을 강력한 순서대로 보여 줍니다. ‘원활하게 실행’은 여유 있게 실행되는 모델, ‘실행 가능 — 다른 앱을 닫으세요’는 남는 공간이 적은 모델입니다. 그 아래에는 일부를 프로세서에서 실행해 훨씬 느린 모델, 마지막으로 이 컴퓨터에는 너무 큰 모델이 이어집니다.
- 메모리
- 그 컴퓨터에서 Twoody가 ‘모델’에 표시하는 값입니다. 모델 파일, 모델이 기억하는 대화, 작업 공간을 모두 더한 값이며, 옆의 막대는 그 컴퓨터에서 모델이 쓸 수 있는 메모리 중 얼마를 차지하는지 보여 줍니다.
- 쓰기 속도
- 모델이 답변을 쓰는 속도를 초당 토큰 수로 나타냅니다. 토큰은 모델이 글을 나누어 다루는 단위입니다. 영어로 소리 내지 않고 읽는 속도가 초당 약 5 토큰이므로, 이보다 빠르면 읽는 동안 기다릴 일이 없습니다.
- 문서 읽기
- 약 20쪽짜리 문서에 대해 답하기 전에, 모델이 그 문서를 다 읽는 데 걸리는 시간입니다. 최신 칩일수록 이 부분에서 차이가 큽니다.
- 알맞은 용도
- 모델 크기로 본 강점입니다. 대화와 글쓰기, 내 문서, 번역, 코드, 추론, 에이전트 가운데 알맞은 것을 보여 줍니다.
- Twoody에서 클릭 한 번
- Twoody 카탈로그에 있어서 앱에서 클릭 한 번으로 설치할 수 있는 모델입니다. 그렇지 않은 모델에는 ‘Twoody 카탈로그에 없음’이 표시됩니다.
로컬 LLM에는 메모리가 얼마나 필요할까요?
어떤 모델이 들어가는지는 메모리가 결정합니다. 모델 파일과 이미지를 읽는 파일, 모델이 기억해 두는 대화 분량(Twoody와 같이 컴퓨터 메모리에 따라 8k~64k 토큰), 그리고 작업에 쓰는 약간의 공간이 필요합니다. Mac은 메모리 32GB까지는 약 3분의 2를, 그 이상에서는 4분의 3을 그래픽에 쓸 수 있게 합니다. 원활하게 실행되는 모델은 다음과 같습니다.
| 메모리 | 원활하게 실행되는 가장 강력한 모델 | Twoody 기본 제안 |
|---|---|---|
| 8GB | Qwen3.5 4B, Qwen3 4B Instruct 2507, Nemotron 3 Nano 4B | Qwen3.5 4B(4GB) |
| 16GB | Gemma 4 12B, GLM-4.6V Flash, Qwen3.5 9B | Qwen3.5 9B(7.4GB) |
| 24GB | Qwen3 14B, Phi-4 14B, Ministral 3 14B | Qwen3.5 9B(7.4GB) |
| 32GB | Qwen3.6 35B-A3B, Gemma 4 31B, Qwen3 30B-A3B Instruct 2507 | Qwen3.5 9B(7.9GB) |
| 48GB | Qwen3.6 35B-A3B, Qwen3.6 35B-A3B (4 bits), Qwen3.5 35B-A3B | Qwen3.5 9B(7.9GB) |
| 64GB | Qwen3-Next 80B-A3B*, Llama 3.3 70B, Qwen3.6 35B-A3B | Qwen3.5 9B(7.9GB) |
| 128GB | Qwen3.5 122B-A10B*, Mistral Small 4 119B*, Qwen3-Next 80B-A3B* | Qwen3.5 9B(7.9GB) |
| 256GB | Qwen3 235B-A22B Instruct 2507*, Qwen3.5 122B-A10B*, Mistral Small 4 119B* | Qwen3.5 9B(7.9GB) |
| 512GB | Qwen3 235B-A22B Instruct 2507*, Qwen3.5 122B-A10B*, Mistral Small 4 119B* | Qwen3.5 9B(7.9GB) |
* Twoody 카탈로그에 없음. 나머지는 클릭 한 번으로 설치할 수 있습니다.
속도를 결정하는 것은 메모리 대역폭입니다
단어 하나를 쓸 때마다 컴퓨터는 모델의 활성 가중치를 메모리에서 읽어 옵니다. 그래서 속도는 프로세서 성능보다 메모리 대역폭에 더 크게 좌우됩니다. 몇 가지 기기에서 Qwen3 8B(4비트)의 속도는 다음과 같습니다.
| 컴퓨터 | 메모리 대역폭 | 쓰기 속도 |
|---|---|---|
| M1 | 68GB/s | 초당 8.7~12 토큰 |
| M2 | 100GB/s | 초당 13~19 토큰 |
| M4 | 120GB/s | 초당 15~21 토큰 |
| M5 | 153GB/s | 초당 19~27 토큰 |
| M4 Pro | 273GB/s | 초당 31~45 토큰 |
| M4 Max | 546GB/s | 초당 53~76 토큰 |
| M5 Max | 614GB/s | 초당 72~104 토큰 |
| GeForce RTX 4090 (24 GB) | 1,008GB/s | 초당 100 토큰 이상 |
4비트와 8비트, 무엇을 고를까요?
모델은 압축된 형태로 배포됩니다. 4비트 파일(Q4_K_M, Gemma는 Q4_0, gpt-oss는 MXFP4)은 8비트 파일의 절반 크기이면서 품질 손실은 작습니다. Twoody가 설치하고 이 계산기가 계산하는 것도 4비트입니다(더 큰 Qwen3.6 35B-A3B는 24GB Mac에 들어가도록 3비트). 8비트는 조금 더 정밀하지만 메모리가 두 배 필요합니다.
초당 토큰 수, 체감하면 어느 정도일까요?
토큰은 영어 기준으로 단어의 약 4분의 3에 해당합니다. 소리 내지 않고 읽는 속도는 초당 5~6 토큰 정도입니다.
| 5 미만 | 읽는 속도보다 느림 |
| 5~10 | 읽는 속도와 비슷함 |
| 10~20 | 읽는 속도보다 빠름 |
| 20~50 | 거의 즉시 |
| 50 초과 | 즉시 나오는 느낌 |
먼저 생각하는 모델은 답변 전에 300~3,000 토큰의 추론을 씁니다. 초당 10 토큰이라면 30초에서 5분이 걸립니다. Twoody에서는 ‘빠르게’, ‘생각하기’, ‘깊게’ 설정으로 생각하는 시간을 고를 수 있습니다.
문서 읽기
모델은 문서에 대해 답하기 전에 먼저 그 문서를 읽습니다. 최신 칩이 가장 큰 차이를 보이는 부분이 바로 여기입니다. 메모리 16GB에서 Qwen3 8B가 20쪽짜리 문서를 읽는 시간은 다음과 같습니다.
| M1 | 3분 |
| M4 | 76초 |
| M5 | 27초 |
Mac일까요, PC일까요?
Mac은 메모리를 프로세서와 그래픽이 함께 씁니다. 그래서 64GB Mac은 24GB 그래픽카드에는 들어가지 않는 모델도 실행합니다. PC 그래픽카드는 메모리가 더 적지만 매우 빠르게 읽습니다. 메모리에 들어가는 모델이라면 RTX 4090은 어떤 Mac보다도 빠르게 씁니다. Twoody는 Mac, Windows, Linux에서 비공개 베타로 제공됩니다. Windows에서는 드라이버가 지원하면 Vulkan을 통해 그래픽카드를 사용하고, Linux에서는 모델을 프로세서에서 실행합니다.
컴퓨터별 최고의 로컬 LLM
계산 방법과 출처
메모리는 이 사이트의 추정치가 아니라 Twoody 앱과 같은 계산입니다. 파일도 대화 길이도 같으며, 모델 파일, 이미지를 읽는 파일과 이를 쓰는 데 필요한 0.3GB, 대화(Qwen3.5 같은 하이브리드 모델은 8비트인 q8_0, 그 밖에는 16비트), 순환 레이어의 상태, 작업용 0.3GB를 더합니다. llama.cpp로 측정하면 대화가 32k 토큰인 Qwen3.5 9B는 계산대로 7.4GB를 씁니다. 모델은 2026년 10월 15일에 Hugging Face에서 확인한 Twoody 카탈로그의 모델과, Twoody가 제공하지 않는 더 큰 모델 몇 개이며, 같은 방식으로 계산합니다.
각 기기의 속도는 llama.cpp 기준 모델(LLaMA 2 7B, 4비트)에서 측정된 속도를 바탕으로, 각 모델이 단어 하나당 읽는 양에 맞춰 환산하고 Apple과 NVIDIA 사양에 나온 메모리 대역폭을 적용해 계산합니다. 계산식을 만드는 데 쓰지 않은 공개 측정값 20건과 비교한 결과, 오차 중앙값은 4.5%, 최대 오차는 23%였으며 모두 표시된 범위 안에 들어왔습니다.
수치 확인일: 2026년 10월 16일.
출처
- www.apple.com/newsroom/
- support.apple.com/specs
- github.com/ggml-org/llama.cpp/discussions/4167
- github.com/ggml-org/llama.cpp/discussions/15013
- github.com/ggml-org/llama.cpp/discussions/10879
- github.com/ggml-org/llama.cpp/discussions/15396
- www.nvidia.com/en-us/geforce/graphics-cards/compare/
- huggingface.co/models
- www.sciencedirect.com/science/article/abs/pii/S0749596X19300786
LLM을 로컬에서 실행하는 방법에 관한 질문
메모리 8GB로 로컬 LLM을 실행할 수 있나요?
네, 작은 모델이라면 가능합니다. 8GB Apple Silicon Mac에서 원활하게 실행되는 가장 강력한 모델은 Qwen3.5 4B, Qwen3 4B Instruct 2507, Nemotron 3 Nano 4B입니다. 모두 Twoody 카탈로그에서 클릭 한 번으로 설치할 수 있습니다. Twoody가 기본으로 제안하는 모델은 Qwen3.5 4B입니다. 여기서 필요한 메모리는 4GB이며, Twoody가 기억, 도구, 내 문서로 측정한 모델 중 하나입니다. 사용하는 동안에는 무거운 앱을 닫으세요.
메모리 16GB Mac에는 어떤 LLM이 좋을까요?
16GB Apple Silicon Mac에서 원활하게 실행되는 가장 강력한 모델은 Gemma 4 12B, GLM-4.6V Flash, Qwen3.5 9B입니다. 모두 Twoody 카탈로그에서 클릭 한 번으로 설치할 수 있습니다. Twoody가 기본으로 제안하는 모델은 Qwen3.5 9B입니다. 여기서 필요한 메모리는 7.4GB이며, Twoody가 기억, 도구, 내 문서로 측정한 모델 중 하나입니다.
70B 모델에는 메모리가 얼마나 필요한가요?
Twoody에서는 16k 토큰 대화 기준으로 약 45GB가 필요합니다. 64GB Mac에서 실행되는 Llama 3.3 70B의 속도는 칩에 따라 초당 4.2~15 토큰입니다. gpt-oss 120B 같은 전문가 혼합(MoE) 모델은 메모리가 더 필요하지만(60GB) 훨씬 빠르게 씁니다.
4비트 모델은 8비트보다 많이 떨어지나요?
약간 떨어집니다. 글쓰기, 요약, 문서에 관한 질문에서는 차이를 느끼기 어렵고, 4비트는 메모리를 절반으로 줄이고 속도는 두 배로 높여 줍니다. Twoody가 설치하고 이 계산기가 계산하는 것도 4비트입니다.
로컬 LLM에는 Mac과 NVIDIA 그래픽카드 중 무엇이 좋을까요?
그래픽카드는 메모리(8~32GB)에 들어가는 모델이라면 더 빠르게 씁니다. Mac은 통합 메모리(최대 512GB)에 훨씬 큰 모델을 담을 수 있습니다. 혼자 문서 작업을 한다면 16~64GB Mac이 가장 간단한 선택입니다.
로컬 LLM을 쓰면 MacBook Air가 너무 뜨거워지나요?
MacBook Air에는 팬이 없어서, 몇 분 동안 계속 글을 쓰면 열을 식히기 위해 속도를 낮춥니다. 보통 길이의 답변에서는 느껴지지 않지만, 긴 세션이라면 MacBook Pro나 Mac mini가 속도를 유지합니다.
Twoody 말고 다른 것도 설치해야 하나요?
아니요. Twoody가 클릭 한 번으로 모델을 다운로드하고 자체 엔진인 llama.cpp로 실행합니다. Apple Silicon Mac에서는 요청하면 Apple의 엔진인 MLX도 설치할 수 있습니다(‘모델’ › ‘고급’).
이 수치는 얼마나 정확한가요?
메모리는 Twoody 앱이 표시하는 값이며 같은 방식으로 계산합니다. 대화가 32k 토큰인 Qwen3.5 9B는 llama.cpp 실측값이 7.4GB로, 계산과 같습니다. 속도는 추정치입니다. 계산식을 만드는 데 쓰지 않은 공개 측정값 20건에서 오차 중앙값은 4.5%, 최대 오차는 23%였으며, 모두 표시된 범위 안에 들어왔습니다. 실제 속도는 사용하는 앱과 그 버전, 컴퓨터가 동시에 하는 다른 작업에 따라서도 달라집니다.
모두에게 공개되기 전에 Twoody를 먼저 써 보세요.
비공개 베타는 무료이며, Mac, Windows, Linux에서, 그리고 컴퓨터의 Twoody와 함께 iPhone과 Android에서 사용할 수 있습니다. 이메일을 남겨 초대를 요청하시면 준비되는 대로 연락드리겠습니다.