Twoody

本地大模型计算器

适合你的 NVIDIA 显卡的最佳本地大模型

从 RTX 3060 到 RTX 5090:每张显卡的显存能装下的最强模型,以及它的生成速度。

你的电脑 内存 能流畅运行的最强模型 生成速度 Twoody 默认推荐

GeForce RTX 5090 (32 GB)

32 GB Qwen3.6 35B-A3B 在 Twoody 中一键安装 每秒 100+ 个 token Qwen3.5 9B(7.9 GB)

GeForce RTX 5080 (16 GB)

16 GB Qwen3 14B 在 Twoody 中一键安装 每秒 66–95 个 token Qwen3.5 9B(7.9 GB)

GeForce RTX 5070 Ti (16 GB)

16 GB Qwen3 14B 在 Twoody 中一键安装 每秒 63–91 个 token Qwen3.5 9B(7.9 GB)

GeForce RTX 5070 (12 GB)

12 GB Gemma 4 12B 在 Twoody 中一键安装 每秒 56–81 个 token Qwen3.5 9B(7.9 GB)

GeForce RTX 5060 Ti (16 GB)

16 GB Qwen3 14B 在 Twoody 中一键安装 每秒 32–46 个 token Qwen3.5 9B(7.9 GB)

GeForce RTX 5060 Ti (8 GB)

8 GB Qwen3.5 4B 在 Twoody 中一键安装 每秒 77–154 个 token Qwen3.5 9B(7.9 GB) 部分在处理器上运行:慢很多

GeForce RTX 5060 (8 GB)

8 GB Qwen3.5 4B 在 Twoody 中一键安装 每秒 82–147 个 token Qwen3.5 9B(7.9 GB) 部分在处理器上运行:慢很多

GeForce RTX 4090 (24 GB)

24 GB Qwen3.6 35B-A3B 在 Twoody 中一键安装 每秒 100+ 个 token Qwen3.5 9B(7.9 GB)

GeForce RTX 4080 SUPER (16 GB)

16 GB Qwen3 14B 在 Twoody 中一键安装 每秒 52–74 个 token Qwen3.5 9B(7.9 GB)

GeForce RTX 4080 (16 GB)

16 GB Qwen3 14B 在 Twoody 中一键安装 每秒 50–72 个 token Qwen3.5 9B(7.9 GB)

GeForce RTX 4070 Ti SUPER (16 GB)

16 GB Qwen3 14B 在 Twoody 中一键安装 每秒 47–67 个 token Qwen3.5 9B(7.9 GB)

GeForce RTX 4070 Ti (12 GB)

12 GB Gemma 4 12B 在 Twoody 中一键安装 每秒 47–67 个 token Qwen3.5 9B(7.9 GB)

GeForce RTX 4070 SUPER (12 GB)

12 GB Gemma 4 12B 在 Twoody 中一键安装 每秒 47–67 个 token Qwen3.5 9B(7.9 GB)

GeForce RTX 4070 (12 GB)

12 GB Gemma 4 12B 在 Twoody 中一键安装 每秒 41–59 个 token Qwen3.5 9B(7.9 GB)

GeForce RTX 4060 Ti (16 GB)

16 GB Qwen3 14B 在 Twoody 中一键安装 每秒 21–30 个 token Qwen3.5 9B(7.9 GB)

GeForce RTX 4060 Ti (8 GB)

8 GB Qwen3.5 4B 在 Twoody 中一键安装 每秒 53–105 个 token Qwen3.5 9B(7.9 GB) 部分在处理器上运行:慢很多

GeForce RTX 4060 (8 GB)

8 GB Qwen3.5 4B 在 Twoody 中一键安装 每秒 53–95 个 token Qwen3.5 9B(7.9 GB) 部分在处理器上运行:慢很多

GeForce RTX 3090 (24 GB)

24 GB Qwen3.6 35B-A3B 在 Twoody 中一键安装 每秒 100+ 个 token Qwen3.5 9B(7.9 GB)

GeForce RTX 3080 (10 GB)

10 GB Gemma 4 12B 在 Twoody 中一键安装 每秒 62–89 个 token Qwen3.5 9B(7.9 GB)

GeForce RTX 3070 (8 GB)

8 GB Qwen3.5 4B 在 Twoody 中一键安装 每秒 62–123 个 token Qwen3.5 9B(7.9 GB) 部分在处理器上运行:慢很多

GeForce RTX 3060 Ti (8 GB)

8 GB Qwen3.5 4B 在 Twoody 中一键安装 每秒 70–140 个 token Qwen3.5 9B(7.9 GB) 部分在处理器上运行:慢很多

GeForce RTX 3060 (12 GB)

12 GB Gemma 4 12B 在 Twoody 中一键安装 每秒 33–48 个 token Qwen3.5 9B(7.9 GB)

速度为估算值,并非用 Twoody 实测,依据 llama.cpp 公开基准测试计算。数据核对于 2026年10月16日。

如何看懂这张表

每块显卡占一行:能装下哪些模型由显卡自己的显存(VRAM)决定,速度是模型在显卡上运行时的数值。PC 本身按 32 GB 内存计算。

能流畅运行的最强模型
能宽裕地装进这里、并且至少以你的阅读速度(每秒 5 个 token)生成文字的最强模型;名称下方注明它能否在 Twoody 中一键安装。
生成速度
它在这里的速度,单位是每秒多少个 token:根据 llama.cpp 公开基准测试得出的估算值,不是用 Twoody 实测的结果。
Twoody 默认推荐
应用在这台电脑上首先安装的模型,以及它在这里需要的内存。它不一定是最强的,但一定是 Twoody 用自己的记忆、工具和你的文档测量过的模型之一。

Twoody 正处于内测阶段:留下你的电子邮件地址,即可申请参加。

一封确认邮件、一封 Twoody 可供你使用时的通知邮件,以及 Twoody 的最新消息。一键即可退订。我们如何处理你的邮箱地址。

在 PC 上,显卡的显存(VRAM)是关键:8 GB 对应 40 亿到 80 亿参数的模型,16 GB 对应 140 亿参数或 gpt-oss 20B,24 到 32 GB 对应 320 亿参数。

显卡读取显存的速度非常快:只要模型装得下,它们的生成速度比任何 Mac 都快。

Windows 和 Linux 版 Twoody 正在内测:在 Windows 10 和 11(x64)上,驱动支持时它会通过 Vulkan 在 NVIDIA 显卡上运行模型,否则在处理器上运行;在 Linux 上则在处理器上运行。本页的速度是模型在显卡上运行时的估算值,并非用 Twoody 实测。

关于在本地运行大模型的问题

RTX 4090 适合哪个大模型?

能流畅运行的最强模型是 Qwen3.6 35B-A3B,生成速度为每秒 100+ 个 token。它可从 Twoody 的目录一键安装。在内存为 32 GB 的 PC 上,Twoody 默认推荐 Qwen3.5 9B,在这里需要 7.9 GB:这是 Twoody 用自己的记忆、工具和你的文档测量过的模型之一。

8 GB 显存的显卡够用吗?

对小模型来说够用。能流畅运行的最强模型是 Qwen3.5 4B,视显卡不同,生成速度为每秒 53–154 个 token。它可从 Twoody 的目录一键安装。更大的模型会溢出到电脑内存中,速度会慢很多。

Twoody 能在配备 NVIDIA 显卡的 Windows 上运行吗?

在内测中可以:在 Windows 10 和 11(x64)上,驱动支持时 Twoody 会通过 Vulkan 在 NVIDIA 显卡上运行模型,否则在处理器上运行。在平台页面留下你的邮箱,即可加入候补名单。

在向所有人开放之前,抢先试用 Twoody。

内测免费,支持 Mac、Windows 和 Linux,也支持 iPhone 和 Android(配合你电脑上的 Twoody 使用)。留下你的电子邮件地址申请邀请:为你准备好后,我们会写信通知你。