本地大模型计算器
在 Radeon RX 7900 XTX 上运行本地大模型
Radeon RX 7900 XTX 有 24 GB 专用显存:能装下哪些开放权重模型,它们的生成和阅读速度,以及与 Radeon RX 7900 XT、Radeon RX 9070 XT、RTX 4090 和 RTX 3090 的对比。根据 Twoody 应用显示的内存和 llama.cpp 的公开基准测试计算。
Radeon RX 7900 XTX 的最佳本地大模型
| 内存 | 能流畅运行的最强模型 | 生成速度 | Twoody 默认推荐 |
|---|---|---|---|
| 24 GB | Qwen3.6 35B-A3B 在 Twoody 中一键安装 | 每秒 100+ 个 token | Qwen3.5 9B(7.9 GB) |
速度为估算值,并非用 Twoody 实测,依据 llama.cpp 公开基准测试计算。数据核对于 2026年10月16日。
“能流畅运行的最强模型”:能宽裕地放进显卡显存、生成速度至少跟上你阅读速度(每秒 5 个 token)的最强模型。“Twoody 默认推荐”:应用在配有这张显卡和 32 GB 内存的 PC 上首先安装的模型,以及它在这里需要的内存。
Twoody 正处于内测阶段:留下你的电子邮件地址,即可申请参加。
Radeon RX 7900 XTX 上能流畅运行的所有模型
计算器收录的 62 个模型(Twoody 的目录,外加几个更大的模型)中,有 56 个能在这里流畅运行,最强的排在前面:Twoody 应用显示的每个模型在这台电脑上需要的内存、生成速度,以及读一份文档所需的时间。
| 模型 | 内存 | 生成速度 | 读一份文档 |
|---|---|---|---|
| Qwen3.6 35B-A3B 在 Twoody 中一键安装 | 需要 16.8 GB 内存 运行流畅 | 每秒 100+ 个 token | 4 秒 读完 20 页 |
| Qwen3.6 35B-A3B (4 bits) 在 Twoody 中一键安装 | 需要 21.2 GB 内存 运行流畅 | 每秒 100+ 个 token | 4 秒 读完 20 页 |
| Qwen3.5 35B-A3B 在 Twoody 中一键安装 | 需要 22.9 GB 内存 能运行:请关闭其他应用 | 每秒 100+ 个 token | 4 秒 读完 20 页 |
| Qwen3 32B 在 Twoody 中一键安装 | 需要 22.7 GB 内存 能运行:请关闭其他应用 | 每秒 31–44 个 token | 21 秒 读完 20 页 |
| GLM-4 32B 在 Twoody 中一键安装 | 需要 19.6 GB 内存 运行流畅 | 每秒 31–45 个 token | 21 秒 读完 20 页 |
| Nemotron 3 Nano 30B-A3B 在 Twoody 中一键安装 | 需要 21.4 GB 内存 运行流畅 | 每秒 100+ 个 token | 5 秒 读完 20 页 |
| Gemma 4 31B 在 Twoody 中一键安装 | 需要 19.4 GB 内存 运行流畅 | 每秒 34–49 个 token | 20 秒 读完 20 页 |
| Qwen3 30B-A3B Instruct 2507 在 Twoody 中一键安装 | 需要 19.2 GB 内存 运行流畅 | 每秒 100+ 个 token | 5 秒 读完 20 页 |
| Qwen3.5 27B 在 Twoody 中一键安装 | 需要 20.5 GB 内存 运行流畅 | 每秒 26–52 个 token | 18 秒 读完 20 页 |
| Qwen3.8 27B 在 Twoody 中一键安装 | 需要 21.4 GB 内存 运行流畅 | 每秒 25–50 个 token | 18 秒 读完 20 页 |
| Qwen3.6 27B 在 Twoody 中一键安装 | 需要 21.5 GB 内存 运行流畅 | 每秒 25–49 个 token | 18 秒 读完 20 页 |
| Gemma 4 26B (A4B) 在 Twoody 中一键安装 | 需要 15.5 GB 内存 运行流畅 | 每秒 100+ 个 token | 6 秒 读完 20 页 |
| Mistral Small 3.2 24B 在 Twoody 中一键安装 | 需要 17.3 GB 内存 运行流畅 | 每秒 43–61 个 token | 15 秒 读完 20 页 |
| Qwen3 14B 在 Twoody 中一键安装 | 需要 11.2 GB 内存 运行流畅 | 每秒 65–94 个 token | 9 秒 读完 20 页 |
| Phi-4 14B 在 Twoody 中一键安装 | 需要 11.9 GB 内存 运行流畅 | 每秒 65–93 个 token | 9 秒 读完 20 页 |
| Ministral 3 14B 在 Twoody 中一键安装 | 需要 11.6 GB 内存 运行流畅 | 每秒 71–102 个 token | 9 秒 读完 20 页 |
| Gemma 4 12B 在 Twoody 中一键安装 | 需要 7.6 GB 内存 运行流畅 | 每秒 80–116 个 token | 8 秒 读完 20 页 |
| GLM-4.6V Flash 在 Twoody 中一键安装 | 需要 7.9 GB 内存 运行流畅 | 每秒 93–134 个 token | 7 秒 读完 20 页 |
| Qwen3.5 9B 在 Twoody 中一键安装 | 需要 7.9 GB 内存 运行流畅 | 每秒 78–156 个 token | 6 秒 读完 20 页 |
| GLM-4 9B 在 Twoody 中一键安装 | 需要 6.7 GB 内存 运行流畅 | 每秒 93–134 个 token | 6 秒 读完 20 页 |
| Ministral 3 8B 在 Twoody 中一键安装 | 需要 8.4 GB 内存 运行流畅 | 每秒 100+ 个 token | 6 秒 读完 20 页 |
| Granite 4.1 8B 在 Twoody 中一键安装 | 需要 8 GB 内存 运行流畅 | 每秒 100+ 个 token | 6 秒 读完 20 页 |
| Qwen3 8B 在 Twoody 中一键安装 | 需要 7.2 GB 内存 运行流畅 | 每秒 100+ 个 token | 5 秒 读完 20 页 |
| Llama 3.1 8B 在 Twoody 中一键安装 | 需要 6.9 GB 内存 运行流畅 | 每秒 100+ 个 token | 5 秒 读完 20 页 |
| Olmo 3 7B 在 Twoody 中一键安装 | 需要 8.2 GB 内存 运行流畅 | 每秒 100+ 个 token | 5 秒 读完 20 页 |
| Gemma 4 E4B 在 Twoody 中一键安装 | 需要 6.6 GB 内存 运行流畅 | 每秒 100+ 个 token | 3 秒 读完 20 页 |
| Qwen3.5 4B 在 Twoody 中一键安装 | 需要 4.9 GB 内存 运行流畅 | 每秒 100+ 个 token | 3 秒 读完 20 页 |
| Qwen3 4B Instruct 2507 在 Twoody 中一键安装 | 需要 4.9 GB 内存 运行流畅 | 每秒 100+ 个 token | 3 秒 读完 20 页 |
| Nemotron 3 Nano 4B 在 Twoody 中一键安装 | 需要 3.6 GB 内存 运行流畅 | 每秒 100+ 个 token | 3 秒 读完 20 页 |
| Ministral 3 3B 在 Twoody 中一键安装 | 需要 5 GB 内存 运行流畅 | 每秒 100+ 个 token | 2 秒 读完 20 页 |
| Phi-4 mini 在 Twoody 中一键安装 | 需要 4.6 GB 内存 运行流畅 | 每秒 100+ 个 token | 2 秒 读完 20 页 |
| Llama 3.2 3B 在 Twoody 中一键安装 | 需要 3.9 GB 内存 运行流畅 | 每秒 100+ 个 token | 2 秒 读完 20 页 |
| Gemma 4 E2B 在 Twoody 中一键安装 | 需要 4.7 GB 内存 运行流畅 | 每秒 100+ 个 token | 1 秒 读完 20 页 |
| Qwen3.5 2B 在 Twoody 中一键安装 | 需要 2.9 GB 内存 运行流畅 | 每秒 100+ 个 token | 1 秒 读完 20 页 |
| Qwen3.5 0.8B 在 Twoody 中一键安装 | 需要 1.7 GB 内存 运行流畅 | 每秒 100+ 个 token | 1 秒 读完 20 页 |
| DeepSeek-R1 Distill Qwen 32B 在 Twoody 中一键安装 | 需要 22.8 GB 内存 能运行:请关闭其他应用 | 每秒 30–44 个 token | 21 秒 读完 20 页 |
| GLM-4.7 Flash 在 Twoody 中一键安装 | 需要 18.1 GB 内存 运行流畅 | 每秒 100+ 个 token | 5 秒 读完 20 页 |
| Qwen3-Coder 30B-A3B 在 Twoody 中一键安装 | 需要 19.1 GB 内存 运行流畅 | 每秒 100+ 个 token | 5 秒 读完 20 页 |
| Qwen3 30B-A3B Thinking 2507 在 Twoody 中一键安装 | 需要 19.2 GB 内存 运行流畅 | 每秒 100+ 个 token | 5 秒 读完 20 页 |
| Magistral Small 1.2 在 Twoody 中一键安装 | 需要 16.1 GB 内存 运行流畅 | 每秒 43–61 个 token | 15 秒 读完 20 页 |
| Devstral Small 2 24B 在 Twoody 中一键安装 | 需要 16.1 GB 内存 运行流畅 | 每秒 43–61 个 token | 15 秒 读完 20 页 |
| gpt-oss 20B 在 Twoody 中一键安装 | 需要 12 GB 内存 运行流畅 | 每秒 100+ 个 token | 5 秒 读完 20 页 |
| DeepSeek-Coder-V2 Lite 在 Twoody 中一键安装 | 需要 10.4 GB 内存 运行流畅 | 每秒 100+ 个 token | 4 秒 读完 20 页 |
| DeepSeek-R1 Distill Qwen 14B 在 Twoody 中一键安装 | 需要 11.7 GB 内存 运行流畅 | 每秒 64–92 个 token | 9 秒 读完 20 页 |
| Phi-4 reasoning plus 在 Twoody 中一键安装 | 需要 11.9 GB 内存 运行流畅 | 每秒 65–93 个 token | 9 秒 读完 20 页 |
| Ministral 3 14B Reasoning 在 Twoody 中一键安装 | 需要 10.5 GB 内存 运行流畅 | 每秒 71–102 个 token | 9 秒 读完 20 页 |
| GLM-Z1 9B 在 Twoody 中一键安装 | 需要 6.7 GB 内存 运行流畅 | 每秒 93–134 个 token | 6 秒 读完 20 页 |
| DeepSeek-R1 8B 在 Twoody 中一键安装 | 需要 7.2 GB 内存 运行流畅 | 每秒 100+ 个 token | 5 秒 读完 20 页 |
| DeepSeek-R1 Distill Llama 8B 在 Twoody 中一键安装 | 需要 6.9 GB 内存 运行流畅 | 每秒 100+ 个 token | 5 秒 读完 20 页 |
| DeepSeek-R1 Distill Qwen 7B 在 Twoody 中一键安装 | 需要 5.5 GB 内存 运行流畅 | 每秒 100+ 个 token | 5 秒 读完 20 页 |
| Qwen3 4B Thinking 2507 在 Twoody 中一键安装 | 需要 4.9 GB 内存 运行流畅 | 每秒 100+ 个 token | 3 秒 读完 20 页 |
| Phi-4 mini reasoning 在 Twoody 中一键安装 | 需要 4.6 GB 内存 运行流畅 | 每秒 100+ 个 token | 2 秒 读完 20 页 |
| SmolLM3 3B 在 Twoody 中一键安装 | 需要 3.2 GB 内存 运行流畅 | 每秒 100+ 个 token | 2 秒 读完 20 页 |
| LFM2.5 2.6B 在 Twoody 中一键安装 | 需要 2.4 GB 内存 运行流畅 | 每秒 100+ 个 token | 2 秒 读完 20 页 |
| MiniCPM5 2B 在 Twoody 中一键安装 | 需要 2.5 GB 内存 运行流畅 | 每秒 100+ 个 token | 2 秒 读完 20 页 |
| Llama 3.2 1B 在 Twoody 中一键安装 | 需要 1.6 GB 内存 运行流畅 | 每秒 100+ 个 token | 1 秒 读完 20 页 |
此外,有 2 个模型会部分在处理器上运行,慢很多;4 个模型对这台电脑来说太大。 在计算器中查看全部
每个模型的内存数值,都是 Twoody 在这台电脑的“模型”中显示的数值:相同的公式、相同的文件(包括读取图片所用的文件)、相同的对话长度(目录核对于 2026年10月15日)。
Radeon RX 7900 XTX 与 Radeon RX 7900 XT、Radeon RX 9070 XT、RTX 4090 和 RTX 3090 对比
| 电脑 | 内存 | Qwen3.5 9B 生成速度 | 读一份文档 | 能流畅运行的最强模型 |
|---|---|---|---|---|
| Radeon RX 7900 XTX | 24 GB | 每秒 78–156 个 token | 6 秒 读完 20 页 | Qwen3.6 35B-A3B 每秒 100+ 个 token |
| Radeon RX 7900 XT | 20 GB | 每秒 56–112 个 token | 8 秒 读完 20 页 | Qwen3.6 35B-A3B 每秒 96–192 个 token |
| Radeon RX 9070 XT | 16 GB | 每秒 56–113 个 token | 5 秒 读完 20 页 | Qwen3 14B 每秒 46–67 个 token |
| RTX 4090 | 24 GB | 每秒 81–163 个 token | 2 秒 读完 20 页 | Qwen3.6 35B-A3B 每秒 100+ 个 token |
| RTX 3090 | 24 GB | 每秒 71–143 个 token | 4 秒 读完 20 页 | Qwen3.6 35B-A3B 每秒 100+ 个 token |
显卡的专用显存决定能装下哪些模型;它的带宽决定生成速度。每台 PC 都按显卡之外配有 32 GB 内存计算。
这张显卡有 24 GB 专用显存(VRAM),读取速度为每秒 960 GB:完全装得下的模型生成很快;更大的模型会溢出到电脑内存,速度大幅下降。
表格按 PC 在显卡之外配有 32 GB 内存计算。速度是模型在显卡上运行时的值,根据 llama.cpp 的公开基准测试估算。
Windows 和 Linux 版 Twoody 正在内测:在 Windows 10 和 11(x64)上,驱动支持时它会通过 Vulkan 在 Radeon RX 7900 XTX 上运行模型,否则在处理器上运行;在 Linux 上则在处理器上运行。本页的速度是模型在显卡上运行时的估算值,并非用 Twoody 实测。
关于在本地运行大模型的问题
Radeon RX 7900 XTX 适合哪个本地大模型?
能流畅运行的最强模型是 Qwen3.6 35B-A3B,生成速度为每秒 100+ 个 token。它可从 Twoody 的目录一键安装。在内存为 32 GB 的 PC 上,Twoody 默认推荐 Qwen3.5 9B,在这里需要 7.9 GB:这是 Twoody 用自己的记忆、工具和你的文档测量过的模型之一。
Radeon RX 7900 XTX 的 24 GB 显存能装下什么?
计算器收录的 62 个模型(Twoody 的目录,外加几个更大的模型)中,有 56 个能在这里流畅运行,全部在显卡上;最大的是 Qwen3.5 35B-A3B,需要 22.9 GB。更大的模型会溢出到电脑内存,速度大幅下降。
Radeon RX 7900 XTX 每秒能生成多少 token?
使用 Twoody 在这里推荐的 Qwen3.5 9B,生成速度为每秒 78–156 个 token,读一份约 20 页的文档需要 6 秒。这些速度是模型在显卡上运行时、根据 llama.cpp 公开基准测试得出的估算值,并非用 Twoody 实测。
Radeon RX 7900 XTX 与 Radeon RX 7900 XT、Radeon RX 9070 XT、RTX 4090 和 RTX 3090,哪个生成得更快?
使用 Twoody 推荐的 Qwen3.5 9B:Radeon RX 7900 XTX 每秒 78–156 个 token;Radeon RX 7900 XT 每秒 56–112 个 token;Radeon RX 9070 XT 每秒 56–113 个 token;RTX 4090 每秒 81–163 个 token;RTX 3090 每秒 71–143 个 token。显卡的显存决定能装下哪些模型;它的带宽决定生成速度。
Twoody 能用上 Radeon RX 7900 XTX 吗?
在内测中,Windows 10 和 11(x64)上可以:驱动支持时 Twoody 会通过 Vulkan 在显卡上运行模型,否则在处理器上运行。在 Linux 上,它在处理器上运行模型。留下你的邮箱,即可加入候补名单。
在向所有人开放之前,抢先试用 Twoody。
内测免费,支持 Mac、Windows 和 Linux,也支持 iPhone 和 Android(配合你电脑上的 Twoody 使用)。留下你的电子邮件地址申请邀请:为你准备好后,我们会写信通知你。