本地大模型计算器
适合你的 NVIDIA 显卡的最佳本地大模型
从 RTX 3060 到 RTX 5090:每张显卡的显存能装下的最强模型,以及它的生成速度。
| 你的电脑 | 内存 | 能流畅运行的最强模型 | 生成速度 | Twoody 默认推荐 |
|---|---|---|---|---|
GeForce RTX 5090 (32 GB) |
32 GB | Qwen3.6 35B-A3B 在 Twoody 中一键安装 | 每秒 100+ 个 token | Qwen3.5 9B(7.9 GB) |
GeForce RTX 5080 (16 GB) |
16 GB | Qwen3 14B 在 Twoody 中一键安装 | 每秒 66–95 个 token | Qwen3.5 9B(7.9 GB) |
GeForce RTX 5070 Ti (16 GB) |
16 GB | Qwen3 14B 在 Twoody 中一键安装 | 每秒 63–91 个 token | Qwen3.5 9B(7.9 GB) |
GeForce RTX 5070 (12 GB) |
12 GB | Gemma 4 12B 在 Twoody 中一键安装 | 每秒 56–81 个 token | Qwen3.5 9B(7.9 GB) |
GeForce RTX 5060 Ti (16 GB) |
16 GB | Qwen3 14B 在 Twoody 中一键安装 | 每秒 32–46 个 token | Qwen3.5 9B(7.9 GB) |
GeForce RTX 5060 Ti (8 GB) |
8 GB | Qwen3.5 4B 在 Twoody 中一键安装 | 每秒 77–154 个 token | Qwen3.5 9B(7.9 GB) 部分在处理器上运行:慢很多 |
GeForce RTX 5060 (8 GB) |
8 GB | Qwen3.5 4B 在 Twoody 中一键安装 | 每秒 82–147 个 token | Qwen3.5 9B(7.9 GB) 部分在处理器上运行:慢很多 |
GeForce RTX 4090 (24 GB) |
24 GB | Qwen3.6 35B-A3B 在 Twoody 中一键安装 | 每秒 100+ 个 token | Qwen3.5 9B(7.9 GB) |
GeForce RTX 4080 SUPER (16 GB) |
16 GB | Qwen3 14B 在 Twoody 中一键安装 | 每秒 52–74 个 token | Qwen3.5 9B(7.9 GB) |
GeForce RTX 4080 (16 GB) |
16 GB | Qwen3 14B 在 Twoody 中一键安装 | 每秒 50–72 个 token | Qwen3.5 9B(7.9 GB) |
GeForce RTX 4070 Ti SUPER (16 GB) |
16 GB | Qwen3 14B 在 Twoody 中一键安装 | 每秒 47–67 个 token | Qwen3.5 9B(7.9 GB) |
GeForce RTX 4070 Ti (12 GB) |
12 GB | Gemma 4 12B 在 Twoody 中一键安装 | 每秒 47–67 个 token | Qwen3.5 9B(7.9 GB) |
GeForce RTX 4070 SUPER (12 GB) |
12 GB | Gemma 4 12B 在 Twoody 中一键安装 | 每秒 47–67 个 token | Qwen3.5 9B(7.9 GB) |
GeForce RTX 4070 (12 GB) |
12 GB | Gemma 4 12B 在 Twoody 中一键安装 | 每秒 41–59 个 token | Qwen3.5 9B(7.9 GB) |
GeForce RTX 4060 Ti (16 GB) |
16 GB | Qwen3 14B 在 Twoody 中一键安装 | 每秒 21–30 个 token | Qwen3.5 9B(7.9 GB) |
GeForce RTX 4060 Ti (8 GB) |
8 GB | Qwen3.5 4B 在 Twoody 中一键安装 | 每秒 53–105 个 token | Qwen3.5 9B(7.9 GB) 部分在处理器上运行:慢很多 |
GeForce RTX 4060 (8 GB) |
8 GB | Qwen3.5 4B 在 Twoody 中一键安装 | 每秒 53–95 个 token | Qwen3.5 9B(7.9 GB) 部分在处理器上运行:慢很多 |
GeForce RTX 3090 (24 GB) |
24 GB | Qwen3.6 35B-A3B 在 Twoody 中一键安装 | 每秒 100+ 个 token | Qwen3.5 9B(7.9 GB) |
GeForce RTX 3080 (10 GB) |
10 GB | Gemma 4 12B 在 Twoody 中一键安装 | 每秒 62–89 个 token | Qwen3.5 9B(7.9 GB) |
GeForce RTX 3070 (8 GB) |
8 GB | Qwen3.5 4B 在 Twoody 中一键安装 | 每秒 62–123 个 token | Qwen3.5 9B(7.9 GB) 部分在处理器上运行:慢很多 |
GeForce RTX 3060 Ti (8 GB) |
8 GB | Qwen3.5 4B 在 Twoody 中一键安装 | 每秒 70–140 个 token | Qwen3.5 9B(7.9 GB) 部分在处理器上运行:慢很多 |
GeForce RTX 3060 (12 GB) |
12 GB | Gemma 4 12B 在 Twoody 中一键安装 | 每秒 33–48 个 token | Qwen3.5 9B(7.9 GB) |
速度为估算值,并非用 Twoody 实测,依据 llama.cpp 公开基准测试计算。数据核对于 2026年10月16日。
如何看懂这张表
每块显卡占一行:能装下哪些模型由显卡自己的显存(VRAM)决定,速度是模型在显卡上运行时的数值。PC 本身按 32 GB 内存计算。
- 能流畅运行的最强模型
- 能宽裕地装进这里、并且至少以你的阅读速度(每秒 5 个 token)生成文字的最强模型;名称下方注明它能否在 Twoody 中一键安装。
- 生成速度
- 它在这里的速度,单位是每秒多少个 token:根据 llama.cpp 公开基准测试得出的估算值,不是用 Twoody 实测的结果。
- Twoody 默认推荐
- 应用在这台电脑上首先安装的模型,以及它在这里需要的内存。它不一定是最强的,但一定是 Twoody 用自己的记忆、工具和你的文档测量过的模型之一。
Twoody 正处于内测阶段:留下你的电子邮件地址,即可申请参加。
在 PC 上,显卡的显存(VRAM)是关键:8 GB 对应 40 亿到 80 亿参数的模型,16 GB 对应 140 亿参数或 gpt-oss 20B,24 到 32 GB 对应 320 亿参数。
显卡读取显存的速度非常快:只要模型装得下,它们的生成速度比任何 Mac 都快。
Windows 和 Linux 版 Twoody 正在内测:在 Windows 10 和 11(x64)上,驱动支持时它会通过 Vulkan 在 NVIDIA 显卡上运行模型,否则在处理器上运行;在 Linux 上则在处理器上运行。本页的速度是模型在显卡上运行时的估算值,并非用 Twoody 实测。
关于在本地运行大模型的问题
RTX 4090 适合哪个大模型?
能流畅运行的最强模型是 Qwen3.6 35B-A3B,生成速度为每秒 100+ 个 token。它可从 Twoody 的目录一键安装。在内存为 32 GB 的 PC 上,Twoody 默认推荐 Qwen3.5 9B,在这里需要 7.9 GB:这是 Twoody 用自己的记忆、工具和你的文档测量过的模型之一。
8 GB 显存的显卡够用吗?
对小模型来说够用。能流畅运行的最强模型是 Qwen3.5 4B,视显卡不同,生成速度为每秒 53–154 个 token。它可从 Twoody 的目录一键安装。更大的模型会溢出到电脑内存中,速度会慢很多。
Twoody 能在配备 NVIDIA 显卡的 Windows 上运行吗?
在内测中可以:在 Windows 10 和 11(x64)上,驱动支持时 Twoody 会通过 Vulkan 在 NVIDIA 显卡上运行模型,否则在处理器上运行。在平台页面留下你的邮箱,即可加入候补名单。
在向所有人开放之前,抢先试用 Twoody。
内测免费,支持 Mac、Windows 和 Linux,也支持 iPhone 和 Android(配合你电脑上的 Twoody 使用)。留下你的电子邮件地址申请邀请:为你准备好后,我们会写信通知你。