ローカルLLM計算ツール
RTX 3060 Tiで動かすローカルLLM
専用メモリ8GBのRTX 3060 Tiに収まるオープンウェイトのモデルと、その書く速さ・読む速さ、そしてRTX 3060、RTX 3070、RTX 4060 Ti (8 GB)、RTX 5060 Ti (16 GB)との比較です。Twoodyアプリが示すメモリと、llama.cppの公開ベンチマークをもとに計算しています。
RTX 3060 Tiに最適なローカルLLM
| メモリ | 快適に動く最も強力なモデル | 書く速さ | Twoodyが最初に提案するモデル |
|---|---|---|---|
| 8GB | Qwen3.5 4B Twoodyでワンクリック | 70〜140トークン/秒 | Qwen3.5 9B(7.9GB) 一部をCPUで処理:大幅に遅くなります |
速度はTwoodyで測定したものではなく、llama.cppの公開ベンチマークから算出した推定値です。数値の確認日:2026年10月16日。
「快適に動く最も強力なモデル」は、GPUのメモリに余裕をもって収まり、少なくとも読む速さ(毎秒5トークン)で書ける最も強力なモデルです。「Twoodyが最初に提案するモデル」は、このGPUとメモリ32GBを搭載したPCにアプリが最初にインストールするモデルと、その必要メモリです。
Twoodyは非公開ベータ版です。メールアドレスをご登録のうえ、参加をお申し込みください。
RTX 3060 Tiで快適に動くすべてのモデル
計算ツールが扱う62モデル(Twoodyのカタログと、それより大きいいくつかのモデル)のうち、ここで快適に動くのは23モデルです。強力な順に、このコンピュータでTwoodyアプリが示す必要メモリ、書く速さ、文書を読むのにかかる時間を示します。
| モデル | メモリ | 書く速さ | 文書の読み込み |
|---|---|---|---|
| GLM-4 9B Twoodyでワンクリック | 必要なメモリ:6.7GB 動作します(ほかのアプリは閉じてください) | 44〜63トークン/秒 | 20ページを9秒 |
| Qwen3 8B Twoodyでワンクリック | 必要なメモリ:7.2GB 動作します(ほかのアプリは閉じてください) | 52〜75トークン/秒 | 20ページを8秒 |
| Llama 3.1 8B Twoodyでワンクリック | 必要なメモリ:6.9GB 動作します(ほかのアプリは閉じてください) | 54〜78トークン/秒 | 20ページを8秒 |
| Gemma 4 E4B Twoodyでワンクリック | 必要なメモリ:6.6GB 動作します(ほかのアプリは閉じてください) | 83〜119トークン/秒 | 20ページを5秒 |
| Qwen3.5 4B Twoodyでワンクリック | 必要なメモリ:4.9GB 快適に動作 | 70〜140トークン/秒 | 20ページを5秒 |
| Qwen3 4B Instruct 2507 Twoodyでワンクリック | 必要なメモリ:4.9GB 快適に動作 | 93〜133トークン/秒 | 20ページを4秒 |
| Nemotron 3 Nano 4B Twoodyでワンクリック | 必要なメモリ:3.6GB 快適に動作 | 65〜131トークン/秒 | 20ページを4秒 |
| Ministral 3 3B Twoodyでワンクリック | 必要なメモリ:5GB 快適に動作 | 100トークン/秒以上 | 20ページを4秒 |
| Phi-4 mini Twoodyでワンクリック | 必要なメモリ:4.6GB 快適に動作 | 95〜137トークン/秒 | 20ページを4秒 |
| Llama 3.2 3B Twoodyでワンクリック | 必要なメモリ:3.9GB 快適に動作 | 100トークン/秒以上 | 20ページを3秒 |
| Gemma 4 E2B Twoodyでワンクリック | 必要なメモリ:4.7GB 快適に動作 | 100トークン/秒以上 | 20ページを2秒 |
| Qwen3.5 2B Twoodyでワンクリック | 必要なメモリ:2.9GB 快適に動作 | 100トークン/秒以上 | 20ページを2秒 |
| Qwen3.5 0.8B Twoodyでワンクリック | 必要なメモリ:1.7GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
| GLM-Z1 9B Twoodyでワンクリック | 必要なメモリ:6.7GB 動作します(ほかのアプリは閉じてください) | 44〜63トークン/秒 | 20ページを9秒 |
| DeepSeek-R1 8B Twoodyでワンクリック | 必要なメモリ:7.2GB 動作します(ほかのアプリは閉じてください) | 52〜75トークン/秒 | 20ページを8秒 |
| DeepSeek-R1 Distill Llama 8B Twoodyでワンクリック | 必要なメモリ:6.9GB 動作します(ほかのアプリは閉じてください) | 54〜78トークン/秒 | 20ページを8秒 |
| DeepSeek-R1 Distill Qwen 7B Twoodyでワンクリック | 必要なメモリ:5.5GB 快適に動作 | 58〜84トークン/秒 | 20ページを8秒 |
| Qwen3 4B Thinking 2507 Twoodyでワンクリック | 必要なメモリ:4.9GB 快適に動作 | 93〜133トークン/秒 | 20ページを4秒 |
| Phi-4 mini reasoning Twoodyでワンクリック | 必要なメモリ:4.6GB 快適に動作 | 95〜137トークン/秒 | 20ページを4秒 |
| SmolLM3 3B Twoodyでワンクリック | 必要なメモリ:3.2GB 快適に動作 | 100トークン/秒以上 | 20ページを3秒 |
| LFM2.5 2.6B Twoodyでワンクリック | 必要なメモリ:2.4GB 快適に動作 | 100トークン/秒以上 | 20ページを3秒 |
| MiniCPM5 2B Twoodyでワンクリック | 必要なメモリ:2.5GB 快適に動作 | 100トークン/秒以上 | 20ページを3秒 |
| Llama 3.2 1B Twoodyでワンクリック | 必要なメモリ:1.6GB 快適に動作 | 100トークン/秒以上 | 20ページを1秒 |
このほか、33モデルは一部をCPUで処理するため大幅に遅くなり、6モデルはこのコンピュータには大きすぎます。 計算ツールですべて見る
各モデルのメモリは、このパソコンでTwoodyが「モデル」に表示する値です。計算式も、ファイル(画像を読むためのファイルを含む)も、会話の長さも同じです(カタログの確認日:2026年10月15日)。
RTX 3060 TiとRTX 3060、RTX 3070、RTX 4060 Ti (8 GB)、RTX 5060 Ti (16 GB)の比較
| コンピュータ | メモリ | Qwen3.5 9Bの書く速さ | 文書の読み込み | 快適に動く最も強力なモデル |
|---|---|---|---|---|
| RTX 3060 Ti | 8GB | 14〜28トークン/秒 一部をCPUで処理:大幅に遅くなります | 20ページを25秒 | Qwen3.5 4B 70〜140トークン/秒 |
| RTX 3060 | 12GB | 32〜63トークン/秒 | 20ページを10秒 | Gemma 4 12B 33〜48トークン/秒 |
| RTX 3070 | 8GB | 13〜27トークン/秒 一部をCPUで処理:大幅に遅くなります | 20ページを28秒 | Qwen3.5 4B 62〜123トークン/秒 |
| RTX 4060 Ti (8 GB) | 8GB | 12〜24トークン/秒 一部をCPUで処理:大幅に遅くなります | 20ページを15秒 | Qwen3.5 4B 53〜105トークン/秒 |
| RTX 5060 Ti (16 GB) | 16GB | 39〜78トークン/秒 | 20ページを6秒 | Qwen3 14B 32〜46トークン/秒 |
どのモデルが収まるかはGPU専用メモリで、書く速さはその帯域幅で決まります。どのPCも、GPUのほかにメモリ32GBを搭載しているものとしています。
このGPUの専用メモリ(VRAM)は8GBで、毎秒448GBで読み出されます。すべて収まるモデルは速く書けますが、それより大きいモデルはパソコンのメモリにあふれ、大幅に遅くなります。
表では、GPUのほかにPCにメモリ32GBを搭載しているものとしています。速さはGPUで動かした場合の値で、llama.cppの公開ベンチマークから推定しています。
Windows・Linux版Twoodyは非公開ベータ版です。Windows 10・11(x64)では、ドライバが対応していればVulkan経由でRTX 3060 Tiを使ってモデルを動かし、そうでなければCPUで動かします。LinuxではCPUで動かします。このページの速度はGPUで動かした場合の推定値で、Twoodyで測定したものではありません。
ローカルLLMについてのよくある質問
RTX 3060 Tiに合うローカルLLMは?
快適に動く最も強力なモデルはQwen3.5 4Bで、70〜140トークン/秒で書きます。Twoodyのカタログからワンクリックでインストールできます。メモリ32GBのPCでTwoodyが最初に提案するのはQwen3.5 9Bで、必要なメモリは7.9GBです。Twoodyが記憶、ツール、あなたの文書で測定したモデルのひとつです。
RTX 3060 Tiの8GBには何が収まりますか?
計算ツールが扱う62モデル(Twoodyのカタログと、それより大きいいくつかのモデル)のうち、ここでGPU上で快適に動くのは23モデルです。最も大きいのはQwen3 8Bで、7.2GBを必要とします。それより大きいモデルはパソコンのメモリにあふれ、大幅に遅くなります。
RTX 3060 Tiは1秒あたり何トークン書けますか?
Twoodyがここで提案するQwen3.5 9Bでは、書く速さは14〜28トークン/秒、約20ページの文書を25秒で読みます。ここでは一部をCPUで処理するため、大幅に遅くなります。これらの速さは、GPUで動かした場合のllama.cppの公開ベンチマークにもとづく推定値で、Twoodyで測定したものではありません。
RTX 3060 TiとRTX 3060、RTX 3070、RTX 4060 Ti (8 GB)、RTX 5060 Ti (16 GB)では、どれが速く書けますか?
Twoodyが提案するQwen3.5 9Bの場合:RTX 3060 Tiは14〜28トークン/秒(一部をCPUで処理)、RTX 3060は32〜63トークン/秒、RTX 3070は13〜27トークン/秒(一部をCPUで処理)、RTX 4060 Ti (8 GB)は12〜24トークン/秒(一部をCPUで処理)、RTX 5060 Ti (16 GB)は39〜78トークン/秒。どのモデルが収まるかはGPUのメモリで、書く速さはその帯域幅で決まります。
TwoodyはRTX 3060 Tiを使えますか?
非公開ベータ版のWindows 10・11(x64)では使えます。ドライバが対応していればVulkan経由でGPUを使ってモデルを動かし、そうでなければCPUで動かします。LinuxではCPUで動かします。ウェイトリストに参加するには、メールアドレスをご登録ください。
一般公開の前に、Twoodyをお試しください。
非公開ベータ版は無料です。Mac、Windows、Linuxで、そしてパソコンのTwoodyと連携してiPhone・Androidでもお使いいただけます。メールアドレスをご登録のうえ招待をリクエストしていただければ、準備が整い次第お知らせします。