ローカルLLM計算ツール
RTX 3080で動かすローカルLLM
専用メモリ10GBのRTX 3080に収まるオープンウェイトのモデルと、その書く速さ・読む速さ、そしてRTX 3090、RTX 4070、RTX 5070、RTX 3070との比較です。Twoodyアプリが示すメモリと、llama.cppの公開ベンチマークをもとに計算しています。
RTX 3080に最適なローカルLLM
| メモリ | 快適に動く最も強力なモデル | 書く速さ | Twoodyが最初に提案するモデル |
|---|---|---|---|
| 10GB | Gemma 4 12B Twoodyでワンクリック | 62〜89トークン/秒 | Qwen3.5 9B(7.9GB) |
速度はTwoodyで測定したものではなく、llama.cppの公開ベンチマークから算出した推定値です。数値の確認日:2026年10月16日。
「快適に動く最も強力なモデル」は、GPUのメモリに余裕をもって収まり、少なくとも読む速さ(毎秒5トークン)で書ける最も強力なモデルです。「Twoodyが最初に提案するモデル」は、このGPUとメモリ32GBを搭載したPCにアプリが最初にインストールするモデルと、その必要メモリです。
Twoodyは非公開ベータ版です。メールアドレスをご登録のうえ、参加をお申し込みください。
RTX 3080で快適に動くすべてのモデル
計算ツールが扱う62モデル(Twoodyのカタログと、それより大きいいくつかのモデル)のうち、ここで快適に動くのは29モデルです。強力な順に、このコンピュータでTwoodyアプリが示す必要メモリ、書く速さ、文書を読むのにかかる時間を示します。
| モデル | メモリ | 書く速さ | 文書の読み込み |
|---|---|---|---|
| Gemma 4 12B Twoodyでワンクリック | 必要なメモリ:7.6GB 快適に動作 | 62〜89トークン/秒 | 20ページを5秒 |
| GLM-4.6V Flash Twoodyでワンクリック | 必要なメモリ:7.9GB 快適に動作 | 72〜103トークン/秒 | 20ページを4秒 |
| Qwen3.5 9B Twoodyでワンクリック | 必要なメモリ:7.9GB 快適に動作 | 61〜121トークン/秒 | 20ページを4秒 |
| GLM-4 9B Twoodyでワンクリック | 必要なメモリ:6.7GB 快適に動作 | 72〜103トークン/秒 | 20ページを4秒 |
| Ministral 3 8B Twoodyでワンクリック | 必要なメモリ:8.4GB 快適に動作 | 84〜120トークン/秒 | 20ページを4秒 |
| Granite 4.1 8B Twoodyでワンクリック | 必要なメモリ:8GB 快適に動作 | 77〜111トークン/秒 | 20ページを4秒 |
| Qwen3 8B Twoodyでワンクリック | 必要なメモリ:7.2GB 快適に動作 | 85〜122トークン/秒 | 20ページを3秒 |
| Llama 3.1 8B Twoodyでワンクリック | 必要なメモリ:6.9GB 快適に動作 | 88〜127トークン/秒 | 20ページを3秒 |
| Olmo 3 7B Twoodyでワンクリック | 必要なメモリ:8.2GB 快適に動作 | 89〜128トークン/秒 | 20ページを3秒 |
| Gemma 4 E4B Twoodyでワンクリック | 必要なメモリ:6.6GB 快適に動作 | 100トークン/秒以上 | 20ページを2秒 |
| Qwen3.5 4B Twoodyでワンクリック | 必要なメモリ:4.9GB 快適に動作 | 100トークン/秒以上 | 20ページを2秒 |
| Qwen3 4B Instruct 2507 Twoodyでワンクリック | 必要なメモリ:4.9GB 快適に動作 | 100トークン/秒以上 | 20ページを2秒 |
| Nemotron 3 Nano 4B Twoodyでワンクリック | 必要なメモリ:3.6GB 快適に動作 | 100トークン/秒以上 | 20ページを2秒 |
| Ministral 3 3B Twoodyでワンクリック | 必要なメモリ:5GB 快適に動作 | 100トークン/秒以上 | 20ページを2秒 |
| Phi-4 mini Twoodyでワンクリック | 必要なメモリ:4.6GB 快適に動作 | 100トークン/秒以上 | 20ページを2秒 |
| Llama 3.2 3B Twoodyでワンクリック | 必要なメモリ:3.9GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Gemma 4 E2B Twoodyでワンクリック | 必要なメモリ:4.7GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Qwen3.5 2B Twoodyでワンクリック | 必要なメモリ:2.9GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Qwen3.5 0.8B Twoodyでワンクリック | 必要なメモリ:1.7GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| GLM-Z1 9B Twoodyでワンクリック | 必要なメモリ:6.7GB 快適に動作 | 72〜103トークン/秒 | 20ページを4秒 |
| DeepSeek-R1 8B Twoodyでワンクリック | 必要なメモリ:7.2GB 快適に動作 | 85〜122トークン/秒 | 20ページを3秒 |
| DeepSeek-R1 Distill Llama 8B Twoodyでワンクリック | 必要なメモリ:6.9GB 快適に動作 | 88〜127トークン/秒 | 20ページを3秒 |
| DeepSeek-R1 Distill Qwen 7B Twoodyでワンクリック | 必要なメモリ:5.5GB 快適に動作 | 95〜137トークン/秒 | 20ページを3秒 |
| Qwen3 4B Thinking 2507 Twoodyでワンクリック | 必要なメモリ:4.9GB 快適に動作 | 100トークン/秒以上 | 20ページを2秒 |
| Phi-4 mini reasoning Twoodyでワンクリック | 必要なメモリ:4.6GB 快適に動作 | 100トークン/秒以上 | 20ページを2秒 |
| SmolLM3 3B Twoodyでワンクリック | 必要なメモリ:3.2GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| LFM2.5 2.6B Twoodyでワンクリック | 必要なメモリ:2.4GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| MiniCPM5 2B Twoodyでワンクリック | 必要なメモリ:2.5GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| Llama 3.2 1B Twoodyでワンクリック | 必要なメモリ:1.6GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
このほか、27モデルは一部をCPUで処理するため大幅に遅くなり、6モデルはこのコンピュータには大きすぎます。 計算ツールですべて見る
各モデルのメモリは、このパソコンでTwoodyが「モデル」に表示する値です。計算式も、ファイル(画像を読むためのファイルを含む)も、会話の長さも同じです(カタログの確認日:2026年10月15日)。
RTX 3080とRTX 3090、RTX 4070、RTX 5070、RTX 3070の比較
| コンピュータ | メモリ | Qwen3.5 9Bの書く速さ | 文書の読み込み | 快適に動く最も強力なモデル |
|---|---|---|---|---|
| RTX 3080 | 10GB | 61〜121トークン/秒 | 20ページを4秒 | Gemma 4 12B 62〜89トークン/秒 |
| RTX 3090 | 24GB | 71〜143トークン/秒 | 20ページを4秒 | Qwen3.6 35B-A3B 100トークン/秒以上 |
| RTX 4070 | 12GB | 40〜80トークン/秒 | 20ページを7秒 | Gemma 4 12B 41〜59トークン/秒 |
| RTX 5070 | 12GB | 55〜110トークン/秒 | 20ページを4秒 | Gemma 4 12B 56〜81トークン/秒 |
| RTX 3070 | 8GB | 13〜27トークン/秒 一部をCPUで処理:大幅に遅くなります | 20ページを28秒 | Qwen3.5 4B 62〜123トークン/秒 |
どのモデルが収まるかはGPU専用メモリで、書く速さはその帯域幅で決まります。どのPCも、GPUのほかにメモリ32GBを搭載しているものとしています。
このGPUの専用メモリ(VRAM)は10GBで、毎秒760GBで読み出されます。すべて収まるモデルは速く書けますが、それより大きいモデルはパソコンのメモリにあふれ、大幅に遅くなります。
表では、GPUのほかにPCにメモリ32GBを搭載しているものとしています。速さはGPUで動かした場合の値で、llama.cppの公開ベンチマークから推定しています。
Windows・Linux版Twoodyは非公開ベータ版です。Windows 10・11(x64)では、ドライバが対応していればVulkan経由でRTX 3080を使ってモデルを動かし、そうでなければCPUで動かします。LinuxではCPUで動かします。このページの速度はGPUで動かした場合の推定値で、Twoodyで測定したものではありません。
ローカルLLMについてのよくある質問
RTX 3080に合うローカルLLMは?
快適に動く最も強力なモデルはGemma 4 12Bで、62〜89トークン/秒で書きます。Twoodyのカタログからワンクリックでインストールできます。メモリ32GBのPCでTwoodyが最初に提案するのはQwen3.5 9Bで、必要なメモリは7.9GBです。Twoodyが記憶、ツール、あなたの文書で測定したモデルのひとつです。
RTX 3080の10GBには何が収まりますか?
計算ツールが扱う62モデル(Twoodyのカタログと、それより大きいいくつかのモデル)のうち、ここでGPU上で快適に動くのは29モデルです。最も大きいのはMinistral 3 8Bで、8.4GBを必要とします。それより大きいモデルはパソコンのメモリにあふれ、大幅に遅くなります。
RTX 3080は1秒あたり何トークン書けますか?
Twoodyがここで提案するQwen3.5 9Bでは、書く速さは61〜121トークン/秒、約20ページの文書を4秒で読みます。これらの速さは、GPUで動かした場合のllama.cppの公開ベンチマークにもとづく推定値で、Twoodyで測定したものではありません。
RTX 3080とRTX 3090、RTX 4070、RTX 5070、RTX 3070では、どれが速く書けますか?
Twoodyが提案するQwen3.5 9Bの場合:RTX 3080は61〜121トークン/秒、RTX 3090は71〜143トークン/秒、RTX 4070は40〜80トークン/秒、RTX 5070は55〜110トークン/秒、RTX 3070は13〜27トークン/秒(一部をCPUで処理)。どのモデルが収まるかはGPUのメモリで、書く速さはその帯域幅で決まります。
TwoodyはRTX 3080を使えますか?
非公開ベータ版のWindows 10・11(x64)では使えます。ドライバが対応していればVulkan経由でGPUを使ってモデルを動かし、そうでなければCPUで動かします。LinuxではCPUで動かします。ウェイトリストに参加するには、メールアドレスをご登録ください。
一般公開の前に、Twoodyをお試しください。
非公開ベータ版は無料です。Mac、Windows、Linuxで、そしてパソコンのTwoodyと連携してiPhone・Androidでもお使いいただけます。メールアドレスをご登録のうえ招待をリクエストしていただければ、準備が整い次第お知らせします。