ローカルLLM計算ツール
NVIDIA製GPUに最適なローカルLLM
RTX 3060からRTX 5090まで、各GPUのメモリに収まる最も高性能なモデルと、その書く速さ。
| お使いのパソコン | メモリ | 快適に動く最も強力なモデル | 書く速さ | Twoodyが最初に提案するモデル |
|---|---|---|---|---|
GeForce RTX 5090 (32 GB) |
32GB | Qwen3.6 35B-A3B Twoodyでワンクリック | 100トークン/秒以上 | Qwen3.5 9B(7.9GB) |
GeForce RTX 5080 (16 GB) |
16GB | Qwen3 14B Twoodyでワンクリック | 66〜95トークン/秒 | Qwen3.5 9B(7.9GB) |
GeForce RTX 5070 Ti (16 GB) |
16GB | Qwen3 14B Twoodyでワンクリック | 63〜91トークン/秒 | Qwen3.5 9B(7.9GB) |
GeForce RTX 5070 (12 GB) |
12GB | Gemma 4 12B Twoodyでワンクリック | 56〜81トークン/秒 | Qwen3.5 9B(7.9GB) |
GeForce RTX 5060 Ti (16 GB) |
16GB | Qwen3 14B Twoodyでワンクリック | 32〜46トークン/秒 | Qwen3.5 9B(7.9GB) |
GeForce RTX 5060 Ti (8 GB) |
8GB | Qwen3.5 4B Twoodyでワンクリック | 77〜154トークン/秒 | Qwen3.5 9B(7.9GB) 一部をCPUで処理:大幅に遅くなります |
GeForce RTX 5060 (8 GB) |
8GB | Qwen3.5 4B Twoodyでワンクリック | 82〜147トークン/秒 | Qwen3.5 9B(7.9GB) 一部をCPUで処理:大幅に遅くなります |
GeForce RTX 4090 (24 GB) |
24GB | Qwen3.6 35B-A3B Twoodyでワンクリック | 100トークン/秒以上 | Qwen3.5 9B(7.9GB) |
GeForce RTX 4080 SUPER (16 GB) |
16GB | Qwen3 14B Twoodyでワンクリック | 52〜74トークン/秒 | Qwen3.5 9B(7.9GB) |
GeForce RTX 4080 (16 GB) |
16GB | Qwen3 14B Twoodyでワンクリック | 50〜72トークン/秒 | Qwen3.5 9B(7.9GB) |
GeForce RTX 4070 Ti SUPER (16 GB) |
16GB | Qwen3 14B Twoodyでワンクリック | 47〜67トークン/秒 | Qwen3.5 9B(7.9GB) |
GeForce RTX 4070 Ti (12 GB) |
12GB | Gemma 4 12B Twoodyでワンクリック | 47〜67トークン/秒 | Qwen3.5 9B(7.9GB) |
GeForce RTX 4070 SUPER (12 GB) |
12GB | Gemma 4 12B Twoodyでワンクリック | 47〜67トークン/秒 | Qwen3.5 9B(7.9GB) |
GeForce RTX 4070 (12 GB) |
12GB | Gemma 4 12B Twoodyでワンクリック | 41〜59トークン/秒 | Qwen3.5 9B(7.9GB) |
GeForce RTX 4060 Ti (16 GB) |
16GB | Qwen3 14B Twoodyでワンクリック | 21〜30トークン/秒 | Qwen3.5 9B(7.9GB) |
GeForce RTX 4060 Ti (8 GB) |
8GB | Qwen3.5 4B Twoodyでワンクリック | 53〜105トークン/秒 | Qwen3.5 9B(7.9GB) 一部をCPUで処理:大幅に遅くなります |
GeForce RTX 4060 (8 GB) |
8GB | Qwen3.5 4B Twoodyでワンクリック | 53〜95トークン/秒 | Qwen3.5 9B(7.9GB) 一部をCPUで処理:大幅に遅くなります |
GeForce RTX 3090 (24 GB) |
24GB | Qwen3.6 35B-A3B Twoodyでワンクリック | 100トークン/秒以上 | Qwen3.5 9B(7.9GB) |
GeForce RTX 3080 (10 GB) |
10GB | Gemma 4 12B Twoodyでワンクリック | 62〜89トークン/秒 | Qwen3.5 9B(7.9GB) |
GeForce RTX 3070 (8 GB) |
8GB | Qwen3.5 4B Twoodyでワンクリック | 62〜123トークン/秒 | Qwen3.5 9B(7.9GB) 一部をCPUで処理:大幅に遅くなります |
GeForce RTX 3060 Ti (8 GB) |
8GB | Qwen3.5 4B Twoodyでワンクリック | 70〜140トークン/秒 | Qwen3.5 9B(7.9GB) 一部をCPUで処理:大幅に遅くなります |
GeForce RTX 3060 (12 GB) |
12GB | Gemma 4 12B Twoodyでワンクリック | 33〜48トークン/秒 | Qwen3.5 9B(7.9GB) |
速度はTwoodyで測定したものではなく、llama.cppの公開ベンチマークから算出した推定値です。数値の確認日:2026年10月16日。
この表の見方
グラフィックボードごとに1行です。どのモデルが収まるかはボード自身のメモリ(VRAM)で決まり、速度はモデルをボード上で動かした場合の値です。PC本体のメモリは32GBとして計算しています。
- 快適に動く最も強力なモデル
- メモリに余裕をもって収まり、少なくともあなたの読む速さ(毎秒5トークン)で書ける、最も性能の高いモデルです。名前の下には、Twoodyでワンクリックでインストールできるかどうかを示しています。
- 書く速さ
- そのパソコンでの速度を、1秒あたりのトークン数で示します。llama.cppの公開ベンチマークから算出した推定値で、Twoodyで測定したものではありません。
- Twoodyが最初に提案するモデル
- アプリがそのパソコンに最初にインストールするモデルと、そこで必要なメモリです。最も強力なモデルとは限りませんが、Twoodyが記憶、ツール、あなたの文書を使って測定したモデルのひとつです。
Twoodyは非公開ベータ版です。メールアドレスをご登録のうえ、参加をお申し込みください。
PCでは、GPU(グラフィックボード)のメモリ(VRAM)が決め手です。8GBなら40億〜80億パラメータ、16GBなら140億パラメータかgpt-oss 20B、24〜32GBなら320億パラメータのモデルが動きます。
GPUは非常に高速にメモリを読み出します。収まるモデルなら、どのMacよりも速く書きます。
Windows・Linux版Twoodyは非公開ベータ版です。Windows 10・11(x64)では、ドライバが対応していればVulkan経由でNVIDIA製GPUを使ってモデルを動かし、そうでなければCPUで動かします。LinuxではCPUで動かします。このページの速度は、GPUで動かした場合の推定値で、Twoodyで測定したものではありません。
ローカルLLMについてのよくある質問
RTX 4090に合うLLMは?
快適に動く最も強力なモデルはQwen3.6 35B-A3Bで、100トークン/秒以上で書きます。Twoodyのカタログからワンクリックでインストールできます。メモリ32GBのPCでTwoodyが最初に提案するのはQwen3.5 9Bで、必要なメモリは7.9GBです。Twoodyが記憶、ツール、あなたの文書で測定したモデルのひとつです。
8GBのGPUで十分ですか?
小さなモデルなら十分です。快適に動く最も強力なモデルはQwen3.5 4Bで、グラフィックボードによって53〜154トークン/秒で書きます。Twoodyのカタログからワンクリックでインストールできます。より大きなモデルはパソコンのメモリにはみ出し、大幅に遅くなります。
TwoodyはNVIDIA製GPUを搭載したWindowsで動きますか?
非公開ベータ版では動きます。Windows 10・11(x64)では、ドライバが対応していればVulkan経由でNVIDIA製GPUを使ってモデルを動かし、そうでなければCPUで動かします。ウェイトリストに参加するには、プラットフォームのページでメールアドレスをご登録ください。
一般公開の前に、Twoodyをお試しください。
非公開ベータ版は無料です。Mac、Windows、Linuxで、そしてパソコンのTwoodyと連携してiPhone・Androidでもお使いいただけます。メールアドレスをご登録のうえ招待をリクエストしていただければ、準備が整い次第お知らせします。