Twoody
本地大模型计算器
在 RTX 3060 Ti 上运行本地大模型
RTX 3060 Ti 有 8 GB 专用显存：能装下哪些开放权重模型，它们的生成和阅读速度，以及与 RTX 3060、RTX 3070、RTX 4060 Ti (8 GB) 和 RTX 5060 Ti (16 GB) 的对比。根据 Twoody 应用显示的内存和 llama.cpp 的公开基准测试计算。
RTX 3060 Ti 的最佳本地大模型
| 内存 | 能流畅运行的最强模型 | 生成速度 | Twoody 默认推荐 |
|---|---|---|---|
| 8 GB | Qwen3.5 4B 在 Twoody 中一键安装 | 每秒 70–140 个 token | Qwen3.5 9B（7.9 GB） 部分在处理器上运行：慢很多 |
速度为估算值，并非用 Twoody 实测，依据 llama.cpp 公开基准测试计算。数据核对于 2026年10月16日。
“能流畅运行的最强模型”：能宽裕地放进显卡显存、生成速度至少跟上你阅读速度（每秒 5 个 token）的最强模型。“Twoody 默认推荐”：应用在配有这张显卡和 32 GB 内存的 PC 上首先安装的模型，以及它在这里需要的内存。
Twoody 正处于内测阶段：留下你的电子邮件地址，即可申请参加。
RTX 3060 Ti 上能流畅运行的所有模型
计算器收录的 62 个模型（Twoody 的目录，外加几个更大的模型）中，有 23 个能在这里流畅运行，最强的排在前面：Twoody 应用显示的每个模型在这台电脑上需要的内存、生成速度，以及读一份文档所需的时间。
| 模型 | 内存 | 生成速度 | 读一份文档 |
|---|---|---|---|
| GLM-4 9B 在 Twoody 中一键安装 | 需要 6.7 GB 内存 能运行：请关闭其他应用 | 每秒 44–63 个 token | 9 秒 读完 20 页 |
| Qwen3 8B 在 Twoody 中一键安装 | 需要 7.2 GB 内存 能运行：请关闭其他应用 | 每秒 52–75 个 token | 8 秒 读完 20 页 |
| Llama 3.1 8B 在 Twoody 中一键安装 | 需要 6.9 GB 内存 能运行：请关闭其他应用 | 每秒 54–78 个 token | 8 秒 读完 20 页 |
| Gemma 4 E4B 在 Twoody 中一键安装 | 需要 6.6 GB 内存 能运行：请关闭其他应用 | 每秒 83–119 个 token | 5 秒 读完 20 页 |
| Qwen3.5 4B 在 Twoody 中一键安装 | 需要 4.9 GB 内存 运行流畅 | 每秒 70–140 个 token | 5 秒 读完 20 页 |
| Qwen3 4B Instruct 2507 在 Twoody 中一键安装 | 需要 4.9 GB 内存 运行流畅 | 每秒 93–133 个 token | 4 秒 读完 20 页 |
| Nemotron 3 Nano 4B 在 Twoody 中一键安装 | 需要 3.6 GB 内存 运行流畅 | 每秒 65–131 个 token | 4 秒 读完 20 页 |
| Ministral 3 3B 在 Twoody 中一键安装 | 需要 5 GB 内存 运行流畅 | 每秒 100+ 个 token | 4 秒 读完 20 页 |
| Phi-4 mini 在 Twoody 中一键安装 | 需要 4.6 GB 内存 运行流畅 | 每秒 95–137 个 token | 4 秒 读完 20 页 |
| Llama 3.2 3B 在 Twoody 中一键安装 | 需要 3.9 GB 内存 运行流畅 | 每秒 100+ 个 token | 3 秒 读完 20 页 |
| Gemma 4 E2B 在 Twoody 中一键安装 | 需要 4.7 GB 内存 运行流畅 | 每秒 100+ 个 token | 2 秒 读完 20 页 |
| Qwen3.5 2B 在 Twoody 中一键安装 | 需要 2.9 GB 内存 运行流畅 | 每秒 100+ 个 token | 2 秒 读完 20 页 |
| Qwen3.5 0.8B 在 Twoody 中一键安装 | 需要 1.7 GB 内存 运行流畅 | 每秒 100+ 个 token | 1 秒 读完 20 页 |
| GLM-Z1 9B 在 Twoody 中一键安装 | 需要 6.7 GB 内存 能运行：请关闭其他应用 | 每秒 44–63 个 token | 9 秒 读完 20 页 |
| DeepSeek-R1 8B 在 Twoody 中一键安装 | 需要 7.2 GB 内存 能运行：请关闭其他应用 | 每秒 52–75 个 token | 8 秒 读完 20 页 |
| DeepSeek-R1 Distill Llama 8B 在 Twoody 中一键安装 | 需要 6.9 GB 内存 能运行：请关闭其他应用 | 每秒 54–78 个 token | 8 秒 读完 20 页 |
| DeepSeek-R1 Distill Qwen 7B 在 Twoody 中一键安装 | 需要 5.5 GB 内存 运行流畅 | 每秒 58–84 个 token | 8 秒 读完 20 页 |
| Qwen3 4B Thinking 2507 在 Twoody 中一键安装 | 需要 4.9 GB 内存 运行流畅 | 每秒 93–133 个 token | 4 秒 读完 20 页 |
| Phi-4 mini reasoning 在 Twoody 中一键安装 | 需要 4.6 GB 内存 运行流畅 | 每秒 95–137 个 token | 4 秒 读完 20 页 |
| SmolLM3 3B 在 Twoody 中一键安装 | 需要 3.2 GB 内存 运行流畅 | 每秒 100+ 个 token | 3 秒 读完 20 页 |
| LFM2.5 2.6B 在 Twoody 中一键安装 | 需要 2.4 GB 内存 运行流畅 | 每秒 100+ 个 token | 3 秒 读完 20 页 |
| MiniCPM5 2B 在 Twoody 中一键安装 | 需要 2.5 GB 内存 运行流畅 | 每秒 100+ 个 token | 3 秒 读完 20 页 |
| Llama 3.2 1B 在 Twoody 中一键安装 | 需要 1.6 GB 内存 运行流畅 | 每秒 100+ 个 token | 1 秒 读完 20 页 |
此外，有 33 个模型会部分在处理器上运行，慢很多；6 个模型对这台电脑来说太大。 在计算器中查看全部
每个模型的内存数值，都是 Twoody 在这台电脑的“模型”中显示的数值：相同的公式、相同的文件（包括读取图片所用的文件）、相同的对话长度（目录核对于 2026年10月15日）。
RTX 3060 Ti 与 RTX 3060、RTX 3070、RTX 4060 Ti (8 GB) 和 RTX 5060 Ti (16 GB) 对比
| 电脑 | 内存 | Qwen3.5 9B 生成速度 | 读一份文档 | 能流畅运行的最强模型 |
|---|---|---|---|---|
| RTX 3060 Ti | 8 GB | 每秒 14–28 个 token 部分在处理器上运行：慢很多 | 25 秒 读完 20 页 | Qwen3.5 4B 每秒 70–140 个 token |
| RTX 3060 | 12 GB | 每秒 32–63 个 token | 10 秒 读完 20 页 | Gemma 4 12B 每秒 33–48 个 token |
| RTX 3070 | 8 GB | 每秒 13–27 个 token 部分在处理器上运行：慢很多 | 28 秒 读完 20 页 | Qwen3.5 4B 每秒 62–123 个 token |
| RTX 4060 Ti (8 GB) | 8 GB | 每秒 12–24 个 token 部分在处理器上运行：慢很多 | 15 秒 读完 20 页 | Qwen3.5 4B 每秒 53–105 个 token |
| RTX 5060 Ti (16 GB) | 16 GB | 每秒 39–78 个 token | 6 秒 读完 20 页 | Qwen3 14B 每秒 32–46 个 token |
显卡的专用显存决定能装下哪些模型；它的带宽决定生成速度。每台 PC 都按显卡之外配有 32 GB 内存计算。
这张显卡有 8 GB 专用显存（VRAM），读取速度为每秒 448 GB：完全装得下的模型生成很快；更大的模型会溢出到电脑内存，速度大幅下降。
表格按 PC 在显卡之外配有 32 GB 内存计算。速度是模型在显卡上运行时的值，根据 llama.cpp 的公开基准测试估算。
Windows 和 Linux 版 Twoody 正在内测：在 Windows 10 和 11（x64）上，驱动支持时它会通过 Vulkan 在 RTX 3060 Ti 上运行模型，否则在处理器上运行；在 Linux 上则在处理器上运行。本页的速度是模型在显卡上运行时的估算值，并非用 Twoody 实测。
关于在本地运行大模型的问题
RTX 3060 Ti 适合哪个本地大模型？
能流畅运行的最强模型是 Qwen3.5 4B，生成速度为每秒 70–140 个 token。它可从 Twoody 的目录一键安装。在内存为 32 GB 的 PC 上，Twoody 默认推荐 Qwen3.5 9B，在这里需要 7.9 GB：这是 Twoody 用自己的记忆、工具和你的文档测量过的模型之一。
RTX 3060 Ti 的 8 GB 显存能装下什么？
计算器收录的 62 个模型（Twoody 的目录，外加几个更大的模型）中，有 23 个能在这里流畅运行，全部在显卡上；最大的是 Qwen3 8B，需要 7.2 GB。更大的模型会溢出到电脑内存，速度大幅下降。
RTX 3060 Ti 每秒能生成多少 token？
使用 Twoody 在这里推荐的 Qwen3.5 9B，生成速度为每秒 14–28 个 token，读一份约 20 页的文档需要 25 秒。这里有一部分在处理器上运行：慢很多。这些速度是模型在显卡上运行时、根据 llama.cpp 公开基准测试得出的估算值，并非用 Twoody 实测。
RTX 3060 Ti 与 RTX 3060、RTX 3070、RTX 4060 Ti (8 GB) 和 RTX 5060 Ti (16 GB)，哪个生成得更快？
使用 Twoody 推荐的 Qwen3.5 9B：RTX 3060 Ti 每秒 14–28 个 token（部分在处理器上运行）；RTX 3060 每秒 32–63 个 token；RTX 3070 每秒 13–27 个 token（部分在处理器上运行）；RTX 4060 Ti (8 GB) 每秒 12–24 个 token（部分在处理器上运行）；RTX 5060 Ti (16 GB) 每秒 39–78 个 token。显卡的显存决定能装下哪些模型；它的带宽决定生成速度。
Twoody 能用上 RTX 3060 Ti 吗？
在内测中，Windows 10 和 11（x64）上可以：驱动支持时 Twoody 会通过 Vulkan 在显卡上运行模型，否则在处理器上运行。在 Linux 上，它在处理器上运行模型。留下你的邮箱，即可加入候补名单。
在向所有人开放之前，抢先试用 Twoody。
内测免费，支持 Mac、Windows 和 Linux，也支持 iPhone 和 Android（配合你电脑上的 Twoody 使用）。留下你的电子邮件地址申请邀请：为你准备好后，我们会写信通知你。