ローカルLLM計算ツール
RTX 4090で動かすローカルLLM
専用メモリ24GBのRTX 4090に収まるオープンウェイトのモデルと、その書く速さ・読む速さ、そしてRTX 5090、RTX 3090、RTX 4080、Radeon RX 7900 XTXとの比較です。Twoodyアプリが示すメモリと、llama.cppの公開ベンチマークをもとに計算しています。
RTX 4090に最適なローカルLLM
| メモリ | 快適に動く最も強力なモデル | 書く速さ | Twoodyが最初に提案するモデル |
|---|---|---|---|
| 24GB | Qwen3.6 35B-A3B Twoodyでワンクリック | 100トークン/秒以上 | Qwen3.5 9B(7.9GB) |
速度はTwoodyで測定したものではなく、llama.cppの公開ベンチマークから算出した推定値です。数値の確認日:2026年10月16日。
「快適に動く最も強力なモデル」は、GPUのメモリに余裕をもって収まり、少なくとも読む速さ(毎秒5トークン)で書ける最も強力なモデルです。「Twoodyが最初に提案するモデル」は、このGPUとメモリ32GBを搭載したPCにアプリが最初にインストールするモデルと、その必要メモリです。
Twoodyは非公開ベータ版です。メールアドレスをご登録のうえ、参加をお申し込みください。
RTX 4090で快適に動くすべてのモデル
計算ツールが扱う62モデル(Twoodyのカタログと、それより大きいいくつかのモデル)のうち、ここで快適に動くのは56モデルです。強力な順に、このコンピュータでTwoodyアプリが示す必要メモリ、書く速さ、文書を読むのにかかる時間を示します。
| モデル | メモリ | 書く速さ | 文書の読み込み |
|---|---|---|---|
| Qwen3.6 35B-A3B Twoodyでワンクリック | 必要なメモリ:16.8GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Qwen3.6 35B-A3B (4 bits) Twoodyでワンクリック | 必要なメモリ:21.2GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Qwen3.5 35B-A3B Twoodyでワンクリック | 必要なメモリ:22.9GB 動作します(ほかのアプリは閉じてください) | 100トークン/秒以上 | 20ページを1秒 |
| Qwen3 32B Twoodyでワンクリック | 必要なメモリ:22.7GB 動作します(ほかのアプリは閉じてください) | 32〜46トークン/秒 | 20ページを5秒 |
| GLM-4 32B Twoodyでワンクリック | 必要なメモリ:19.6GB 快適に動作 | 32〜47トークン/秒 | 20ページを5秒 |
| Nemotron 3 Nano 30B-A3B Twoodyでワンクリック | 必要なメモリ:21.4GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Gemma 4 31B Twoodyでワンクリック | 必要なメモリ:19.4GB 快適に動作 | 35〜51トークン/秒 | 20ページを5秒 |
| Qwen3 30B-A3B Instruct 2507 Twoodyでワンクリック | 必要なメモリ:19.2GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Qwen3.5 27B Twoodyでワンクリック | 必要なメモリ:20.5GB 快適に動作 | 27〜54トークン/秒 | 20ページを5秒 |
| Qwen3.8 27B Twoodyでワンクリック | 必要なメモリ:21.4GB 快適に動作 | 26〜52トークン/秒 | 20ページを5秒 |
| Qwen3.6 27B Twoodyでワンクリック | 必要なメモリ:21.5GB 快適に動作 | 26〜51トークン/秒 | 20ページを5秒 |
| Gemma 4 26B (A4B) Twoodyでワンクリック | 必要なメモリ:15.5GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Mistral Small 3.2 24B Twoodyでワンクリック | 必要なメモリ:17.3GB 快適に動作 | 45〜64トークン/秒 | 20ページを4秒 |
| Qwen3 14B Twoodyでワンクリック | 必要なメモリ:11.2GB 快適に動作 | 68〜98トークン/秒 | 20ページを2秒 |
| Phi-4 14B Twoodyでワンクリック | 必要なメモリ:11.9GB 快適に動作 | 68〜97トークン/秒 | 20ページを2秒 |
| Ministral 3 14B Twoodyでワンクリック | 必要なメモリ:11.6GB 快適に動作 | 74〜106トークン/秒 | 20ページを2秒 |
| Gemma 4 12B Twoodyでワンクリック | 必要なメモリ:7.6GB 快適に動作 | 83〜120トークン/秒 | 20ページを2秒 |
| GLM-4.6V Flash Twoodyでワンクリック | 必要なメモリ:7.9GB 快適に動作 | 97〜139トークン/秒 | 20ページを2秒 |
| Qwen3.5 9B Twoodyでワンクリック | 必要なメモリ:7.9GB 快適に動作 | 81〜163トークン/秒 | 20ページを2秒 |
| GLM-4 9B Twoodyでワンクリック | 必要なメモリ:6.7GB 快適に動作 | 97〜139トークン/秒 | 20ページを2秒 |
| Ministral 3 8B Twoodyでワンクリック | 必要なメモリ:8.4GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Granite 4.1 8B Twoodyでワンクリック | 必要なメモリ:8GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Qwen3 8B Twoodyでワンクリック | 必要なメモリ:7.2GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Llama 3.1 8B Twoodyでワンクリック | 必要なメモリ:6.9GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Olmo 3 7B Twoodyでワンクリック | 必要なメモリ:8.2GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Gemma 4 E4B Twoodyでワンクリック | 必要なメモリ:6.6GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Qwen3.5 4B Twoodyでワンクリック | 必要なメモリ:4.9GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Qwen3 4B Instruct 2507 Twoodyでワンクリック | 必要なメモリ:4.9GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Nemotron 3 Nano 4B Twoodyでワンクリック | 必要なメモリ:3.6GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Ministral 3 3B Twoodyでワンクリック | 必要なメモリ:5GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Phi-4 mini Twoodyでワンクリック | 必要なメモリ:4.6GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Llama 3.2 3B Twoodyでワンクリック | 必要なメモリ:3.9GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Gemma 4 E2B Twoodyでワンクリック | 必要なメモリ:4.7GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Qwen3.5 2B Twoodyでワンクリック | 必要なメモリ:2.9GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Qwen3.5 0.8B Twoodyでワンクリック | 必要なメモリ:1.7GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| DeepSeek-R1 Distill Qwen 32B Twoodyでワンクリック | 必要なメモリ:22.8GB 動作します(ほかのアプリは閉じてください) | 32〜46トークン/秒 | 20ページを5秒 |
| GLM-4.7 Flash Twoodyでワンクリック | 必要なメモリ:18.1GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Qwen3-Coder 30B-A3B Twoodyでワンクリック | 必要なメモリ:19.1GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Qwen3 30B-A3B Thinking 2507 Twoodyでワンクリック | 必要なメモリ:19.2GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Magistral Small 1.2 Twoodyでワンクリック | 必要なメモリ:16.1GB 快適に動作 | 45〜64トークン/秒 | 20ページを4秒 |
| Devstral Small 2 24B Twoodyでワンクリック | 必要なメモリ:16.1GB 快適に動作 | 45〜64トークン/秒 | 20ページを4秒 |
| gpt-oss 20B Twoodyでワンクリック | 必要なメモリ:12GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| DeepSeek-Coder-V2 Lite Twoodyでワンクリック | 必要なメモリ:10.4GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| DeepSeek-R1 Distill Qwen 14B Twoodyでワンクリック | 必要なメモリ:11.7GB 快適に動作 | 67〜96トークン/秒 | 20ページを2秒 |
| Phi-4 reasoning plus Twoodyでワンクリック | 必要なメモリ:11.9GB 快適に動作 | 68〜97トークン/秒 | 20ページを2秒 |
| Ministral 3 14B Reasoning Twoodyでワンクリック | 必要なメモリ:10.5GB 快適に動作 | 74〜106トークン/秒 | 20ページを2秒 |
| GLM-Z1 9B Twoodyでワンクリック | 必要なメモリ:6.7GB 快適に動作 | 97〜139トークン/秒 | 20ページを2秒 |
| DeepSeek-R1 8B Twoodyでワンクリック | 必要なメモリ:7.2GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| DeepSeek-R1 Distill Llama 8B Twoodyでワンクリック | 必要なメモリ:6.9GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| DeepSeek-R1 Distill Qwen 7B Twoodyでワンクリック | 必要なメモリ:5.5GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Qwen3 4B Thinking 2507 Twoodyでワンクリック | 必要なメモリ:4.9GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Phi-4 mini reasoning Twoodyでワンクリック | 必要なメモリ:4.6GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| SmolLM3 3B Twoodyでワンクリック | 必要なメモリ:3.2GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| LFM2.5 2.6B Twoodyでワンクリック | 必要なメモリ:2.4GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| MiniCPM5 2B Twoodyでワンクリック | 必要なメモリ:2.5GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Llama 3.2 1B Twoodyでワンクリック | 必要なメモリ:1.6GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
このほか、2モデルは一部をCPUで処理するため大幅に遅くなり、4モデルはこのコンピュータには大きすぎます。 計算ツールですべて見る
各モデルのメモリは、このパソコンでTwoodyが「モデル」に表示する値です。計算式も、ファイル(画像を読むためのファイルを含む)も、会話の長さも同じです(カタログの確認日:2026年10月15日)。
RTX 4090とRTX 5090、RTX 3090、RTX 4080、Radeon RX 7900 XTXの比較
| コンピュータ | メモリ | Qwen3.5 9Bの書く速さ | 文書の読み込み | 快適に動く最も強力なモデル |
|---|---|---|---|---|
| RTX 4090 | 24GB | 81〜163トークン/秒 | 20ページを2秒 | Qwen3.6 35B-A3B 100トークン/秒以上 |
| RTX 5090 | 32GB | 100トークン/秒以上 | 20ページを2秒 | Qwen3.6 35B-A3B 100トークン/秒以上 |
| RTX 3090 | 24GB | 71〜143トークン/秒 | 20ページを4秒 | Qwen3.6 35B-A3B 100トークン/秒以上 |
| RTX 4080 | 16GB | 60〜121トークン/秒 | 20ページを3秒 | Qwen3 14B 50〜72トークン/秒 |
| Radeon RX 7900 XTX | 24GB | 78〜156トークン/秒 | 20ページを6秒 | Qwen3.6 35B-A3B 100トークン/秒以上 |
どのモデルが収まるかはGPU専用メモリで、書く速さはその帯域幅で決まります。どのPCも、GPUのほかにメモリ32GBを搭載しているものとしています。
このGPUの専用メモリ(VRAM)は24GBで、毎秒1,008GBで読み出されます。すべて収まるモデルは速く書けますが、それより大きいモデルはパソコンのメモリにあふれ、大幅に遅くなります。
表では、GPUのほかにPCにメモリ32GBを搭載しているものとしています。速さはGPUで動かした場合の値で、llama.cppの公開ベンチマークから推定しています。
Windows・Linux版Twoodyは非公開ベータ版です。Windows 10・11(x64)では、ドライバが対応していればVulkan経由でRTX 4090を使ってモデルを動かし、そうでなければCPUで動かします。LinuxではCPUで動かします。このページの速度はGPUで動かした場合の推定値で、Twoodyで測定したものではありません。
ローカルLLMについてのよくある質問
RTX 4090に合うローカルLLMは?
快適に動く最も強力なモデルはQwen3.6 35B-A3Bで、100トークン/秒以上で書きます。Twoodyのカタログからワンクリックでインストールできます。メモリ32GBのPCでTwoodyが最初に提案するのはQwen3.5 9Bで、必要なメモリは7.9GBです。Twoodyが記憶、ツール、あなたの文書で測定したモデルのひとつです。
RTX 4090の24GBには何が収まりますか?
計算ツールが扱う62モデル(Twoodyのカタログと、それより大きいいくつかのモデル)のうち、ここでGPU上で快適に動くのは56モデルです。最も大きいのはQwen3.5 35B-A3Bで、22.9GBを必要とします。それより大きいモデルはパソコンのメモリにあふれ、大幅に遅くなります。
RTX 4090は1秒あたり何トークン書けますか?
Twoodyがここで提案するQwen3.5 9Bでは、書く速さは81〜163トークン/秒、約20ページの文書を2秒で読みます。これらの速さは、GPUで動かした場合のllama.cppの公開ベンチマークにもとづく推定値で、Twoodyで測定したものではありません。
RTX 4090とRTX 5090、RTX 3090、RTX 4080、Radeon RX 7900 XTXでは、どれが速く書けますか?
Twoodyが提案するQwen3.5 9Bの場合:RTX 4090は81〜163トークン/秒、RTX 5090は100トークン/秒以上、RTX 3090は71〜143トークン/秒、RTX 4080は60〜121トークン/秒、Radeon RX 7900 XTXは78〜156トークン/秒。どのモデルが収まるかはGPUのメモリで、書く速さはその帯域幅で決まります。
TwoodyはRTX 4090を使えますか?
非公開ベータ版のWindows 10・11(x64)では使えます。ドライバが対応していればVulkan経由でGPUを使ってモデルを動かし、そうでなければCPUで動かします。LinuxではCPUで動かします。ウェイトリストに参加するには、メールアドレスをご登録ください。
一般公開の前に、Twoodyをお試しください。
非公開ベータ版は無料です。Mac、Windows、Linuxで、そしてパソコンのTwoodyと連携してiPhone・Androidでもお使いいただけます。メールアドレスをご登録のうえ招待をリクエストしていただければ、準備が整い次第お知らせします。