ローカルLLM計算ツール
RTX 4070で動かすローカルLLM
専用メモリ12GBのRTX 4070に収まるオープンウェイトのモデルと、その書く速さ・読む速さ、そしてRTX 5070、RTX 4070 SUPER、RTX 4060 Ti (16 GB)、RTX 3060との比較です。Twoodyアプリが示すメモリと、llama.cppの公開ベンチマークをもとに計算しています。
RTX 4070に最適なローカルLLM
| メモリ | 快適に動く最も強力なモデル | 書く速さ | Twoodyが最初に提案するモデル |
|---|---|---|---|
| 12GB | Gemma 4 12B Twoodyでワンクリック | 41〜59トークン/秒 | Qwen3.5 9B(7.9GB) |
速度はTwoodyで測定したものではなく、llama.cppの公開ベンチマークから算出した推定値です。数値の確認日:2026年10月16日。
「快適に動く最も強力なモデル」は、GPUのメモリに余裕をもって収まり、少なくとも読む速さ(毎秒5トークン)で書ける最も強力なモデルです。「Twoodyが最初に提案するモデル」は、このGPUとメモリ32GBを搭載したPCにアプリが最初にインストールするモデルと、その必要メモリです。
Twoodyは非公開ベータ版です。メールアドレスをご登録のうえ、参加をお申し込みください。
RTX 4070で快適に動くすべてのモデル
計算ツールが扱う62モデル(Twoodyのカタログと、それより大きいいくつかのモデル)のうち、ここで快適に動くのは33モデルです。強力な順に、このコンピュータでTwoodyアプリが示す必要メモリ、書く速さ、文書を読むのにかかる時間を示します。
| モデル | メモリ | 書く速さ | 文書の読み込み |
|---|---|---|---|
| Qwen3 14B Twoodyでワンクリック | 必要なメモリ:11.2GB 動作します(ほかのアプリは閉じてください) | 34〜48トークン/秒 | 20ページを11秒 |
| Ministral 3 14B Twoodyでワンクリック | 必要なメモリ:11.6GB 動作します(ほかのアプリは閉じてください) | 36〜52トークン/秒 | 20ページを10秒 |
| Gemma 4 12B Twoodyでワンクリック | 必要なメモリ:7.6GB 快適に動作 | 41〜59トークン/秒 | 20ページを9秒 |
| GLM-4.6V Flash Twoodyでワンクリック | 必要なメモリ:7.9GB 快適に動作 | 47〜68トークン/秒 | 20ページを8秒 |
| Qwen3.5 9B Twoodyでワンクリック | 必要なメモリ:7.9GB 快適に動作 | 40〜80トークン/秒 | 20ページを7秒 |
| GLM-4 9B Twoodyでワンクリック | 必要なメモリ:6.7GB 快適に動作 | 47〜68トークン/秒 | 20ページを7秒 |
| Ministral 3 8B Twoodyでワンクリック | 必要なメモリ:8.4GB 快適に動作 | 55〜79トークン/秒 | 20ページを7秒 |
| Granite 4.1 8B Twoodyでワンクリック | 必要なメモリ:8GB 快適に動作 | 51〜73トークン/秒 | 20ページを7秒 |
| Qwen3 8B Twoodyでワンクリック | 必要なメモリ:7.2GB 快適に動作 | 56〜81トークン/秒 | 20ページを6秒 |
| Llama 3.1 8B Twoodyでワンクリック | 必要なメモリ:6.9GB 快適に動作 | 58〜84トークン/秒 | 20ページを6秒 |
| Olmo 3 7B Twoodyでワンクリック | 必要なメモリ:8.2GB 快適に動作 | 59〜85トークン/秒 | 20ページを5秒 |
| Gemma 4 E4B Twoodyでワンクリック | 必要なメモリ:6.6GB 快適に動作 | 85〜123トークン/秒 | 20ページを3秒 |
| Qwen3.5 4B Twoodyでワンクリック | 必要なメモリ:4.9GB 快適に動作 | 73〜146トークン/秒 | 20ページを4秒 |
| Qwen3 4B Instruct 2507 Twoodyでワンクリック | 必要なメモリ:4.9GB 快適に動作 | 96〜138トークン/秒 | 20ページを3秒 |
| Nemotron 3 Nano 4B Twoodyでワンクリック | 必要なメモリ:3.6GB 快適に動作 | 67〜135トークン/秒 | 20ページを3秒 |
| Ministral 3 3B Twoodyでワンクリック | 必要なメモリ:5GB 快適に動作 | 100トークン/秒以上 | 20ページを3秒 |
| Phi-4 mini Twoodyでワンクリック | 必要なメモリ:4.6GB 快適に動作 | 100〜143トークン/秒 | 20ページを3秒 |
| Llama 3.2 3B Twoodyでワンクリック | 必要なメモリ:3.9GB 快適に動作 | 100トークン/秒以上 | 20ページを2秒 |
| Gemma 4 E2B Twoodyでワンクリック | 必要なメモリ:4.7GB 快適に動作 | 100トークン/秒以上 | 20ページを2秒 |
| Qwen3.5 2B Twoodyでワンクリック | 必要なメモリ:2.9GB 快適に動作 | 100トークン/秒以上 | 20ページを2秒 |
| Qwen3.5 0.8B Twoodyでワンクリック | 必要なメモリ:1.7GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| DeepSeek-Coder-V2 Lite Twoodyでワンクリック | 必要なメモリ:10.4GB 快適に動作 | 100トークン/秒以上 | 20ページを4秒 |
| Ministral 3 14B Reasoning Twoodyでワンクリック | 必要なメモリ:10.5GB 快適に動作 | 36〜52トークン/秒 | 20ページを10秒 |
| GLM-Z1 9B Twoodyでワンクリック | 必要なメモリ:6.7GB 快適に動作 | 47〜68トークン/秒 | 20ページを7秒 |
| DeepSeek-R1 8B Twoodyでワンクリック | 必要なメモリ:7.2GB 快適に動作 | 56〜81トークン/秒 | 20ページを6秒 |
| DeepSeek-R1 Distill Llama 8B Twoodyでワンクリック | 必要なメモリ:6.9GB 快適に動作 | 58〜84トークン/秒 | 20ページを6秒 |
| DeepSeek-R1 Distill Qwen 7B Twoodyでワンクリック | 必要なメモリ:5.5GB 快適に動作 | 63〜90トークン/秒 | 20ページを6秒 |
| Qwen3 4B Thinking 2507 Twoodyでワンクリック | 必要なメモリ:4.9GB 快適に動作 | 96〜138トークン/秒 | 20ページを3秒 |
| Phi-4 mini reasoning Twoodyでワンクリック | 必要なメモリ:4.6GB 快適に動作 | 100〜143トークン/秒 | 20ページを3秒 |
| SmolLM3 3B Twoodyでワンクリック | 必要なメモリ:3.2GB 快適に動作 | 100トークン/秒以上 | 20ページを2秒 |
| LFM2.5 2.6B Twoodyでワンクリック | 必要なメモリ:2.4GB 快適に動作 | 100トークン/秒以上 | 20ページを2秒 |
| MiniCPM5 2B Twoodyでワンクリック | 必要なメモリ:2.5GB 快適に動作 | 100トークン/秒以上 | 20ページを2秒 |
| Llama 3.2 1B Twoodyでワンクリック | 必要なメモリ:1.6GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
このほか、23モデルは一部をCPUで処理するため大幅に遅くなり、6モデルはこのコンピュータには大きすぎます。 計算ツールですべて見る
各モデルのメモリは、このパソコンでTwoodyが「モデル」に表示する値です。計算式も、ファイル(画像を読むためのファイルを含む)も、会話の長さも同じです(カタログの確認日:2026年10月15日)。
RTX 4070とRTX 5070、RTX 4070 SUPER、RTX 4060 Ti (16 GB)、RTX 3060の比較
| コンピュータ | メモリ | Qwen3.5 9Bの書く速さ | 文書の読み込み | 快適に動く最も強力なモデル |
|---|---|---|---|---|
| RTX 4070 | 12GB | 40〜80トークン/秒 | 20ページを7秒 | Gemma 4 12B 41〜59トークン/秒 |
| RTX 5070 | 12GB | 55〜110トークン/秒 | 20ページを4秒 | Gemma 4 12B 56〜81トークン/秒 |
| RTX 4070 SUPER | 12GB | 45〜89トークン/秒 | 20ページを5秒 | Gemma 4 12B 47〜67トークン/秒 |
| RTX 4060 Ti (16 GB) | 16GB | 26〜51トークン/秒 | 20ページを6秒 | Qwen3 14B 21〜30トークン/秒 |
| RTX 3060 | 12GB | 32〜63トークン/秒 | 20ページを10秒 | Gemma 4 12B 33〜48トークン/秒 |
どのモデルが収まるかはGPU専用メモリで、書く速さはその帯域幅で決まります。どのPCも、GPUのほかにメモリ32GBを搭載しているものとしています。
このGPUの専用メモリ(VRAM)は12GBで、毎秒504GBで読み出されます。すべて収まるモデルは速く書けますが、それより大きいモデルはパソコンのメモリにあふれ、大幅に遅くなります。
表では、GPUのほかにPCにメモリ32GBを搭載しているものとしています。速さはGPUで動かした場合の値で、llama.cppの公開ベンチマークから推定しています。
Windows・Linux版Twoodyは非公開ベータ版です。Windows 10・11(x64)では、ドライバが対応していればVulkan経由でRTX 4070を使ってモデルを動かし、そうでなければCPUで動かします。LinuxではCPUで動かします。このページの速度はGPUで動かした場合の推定値で、Twoodyで測定したものではありません。
ローカルLLMについてのよくある質問
RTX 4070に合うローカルLLMは?
快適に動く最も強力なモデルはGemma 4 12Bで、41〜59トークン/秒で書きます。Twoodyのカタログからワンクリックでインストールできます。メモリ32GBのPCでTwoodyが最初に提案するのはQwen3.5 9Bで、必要なメモリは7.9GBです。Twoodyが記憶、ツール、あなたの文書で測定したモデルのひとつです。
RTX 4070の12GBには何が収まりますか?
計算ツールが扱う62モデル(Twoodyのカタログと、それより大きいいくつかのモデル)のうち、ここでGPU上で快適に動くのは33モデルです。最も大きいのはMinistral 3 14Bで、11.6GBを必要とします。それより大きいモデルはパソコンのメモリにあふれ、大幅に遅くなります。
RTX 4070は1秒あたり何トークン書けますか?
Twoodyがここで提案するQwen3.5 9Bでは、書く速さは40〜80トークン/秒、約20ページの文書を7秒で読みます。これらの速さは、GPUで動かした場合のllama.cppの公開ベンチマークにもとづく推定値で、Twoodyで測定したものではありません。
RTX 4070とRTX 5070、RTX 4070 SUPER、RTX 4060 Ti (16 GB)、RTX 3060では、どれが速く書けますか?
Twoodyが提案するQwen3.5 9Bの場合:RTX 4070は40〜80トークン/秒、RTX 5070は55〜110トークン/秒、RTX 4070 SUPERは45〜89トークン/秒、RTX 4060 Ti (16 GB)は26〜51トークン/秒、RTX 3060は32〜63トークン/秒。どのモデルが収まるかはGPUのメモリで、書く速さはその帯域幅で決まります。
TwoodyはRTX 4070を使えますか?
非公開ベータ版のWindows 10・11(x64)では使えます。ドライバが対応していればVulkan経由でGPUを使ってモデルを動かし、そうでなければCPUで動かします。LinuxではCPUで動かします。ウェイトリストに参加するには、メールアドレスをご登録ください。
一般公開の前に、Twoodyをお試しください。
非公開ベータ版は無料です。Mac、Windows、Linuxで、そしてパソコンのTwoodyと連携してiPhone・Androidでもお使いいただけます。メールアドレスをご登録のうえ招待をリクエストしていただければ、準備が整い次第お知らせします。