本地大模型计算器
在 iMac M4 上运行本地大模型
16、24 或 32 GB 内存的 iMac M4 能运行哪些开放权重模型,它们的生成和阅读速度,以及与 iMac M3 和 iMac M1 的对比。根据 Twoody 应用显示的内存和 llama.cpp 的公开基准测试计算。
iMac M4 的最佳本地大模型(按内存)
| 内存 | 能流畅运行的最强模型 | 生成速度 | Twoody 默认推荐 |
|---|---|---|---|
| 16 GB | Gemma 4 12B 在 Twoody 中一键安装 | 每秒 11–15 个 token | Qwen3.5 9B(7.4 GB) |
| 24 GB | Qwen3 14B 在 Twoody 中一键安装 | 每秒 8.6–12 个 token | Qwen3.5 9B(7.4 GB) |
| 32 GB | Qwen3.6 35B-A3B 在 Twoody 中一键安装 | 每秒 30–59 个 token | Qwen3.5 9B(7.9 GB) |
速度为估算值,并非用 Twoody 实测,依据 llama.cpp 公开基准测试计算。数据核对于 2026年10月16日。
“能流畅运行的最强模型”:能宽裕地放进这份内存、生成速度至少跟上你阅读速度(每秒 5 个 token)的最强模型。“Twoody 默认推荐”:应用在这台 Mac 上首先安装的模型,以及它在这里需要的内存。
Twoody 正处于内测阶段:留下你的电子邮件地址,即可申请参加。
16 GB 内存的 iMac M4 上能流畅运行的所有模型
计算器收录的 62 个模型(Twoody 的目录,外加几个更大的模型)中,有 31 个能在这里流畅运行,最强的排在前面:Twoody 应用显示的每个模型在这台电脑上需要的内存、生成速度,以及读一份文档所需的时间。
| 模型 | 内存 | 生成速度 | 读一份文档 |
|---|---|---|---|
| Gemma 4 12B 在 Twoody 中一键安装 | 需要 7.6 GB 内存 运行流畅 | 每秒 11–15 个 token | 2 分钟 读完 20 页 |
| GLM-4.6V Flash 在 Twoody 中一键安装 | 需要 7.9 GB 内存 运行流畅 | 每秒 12–18 个 token | 2 分钟 读完 20 页 |
| Qwen3.5 9B 在 Twoody 中一键安装 | 需要 7.4 GB 内存 运行流畅 | 每秒 9.3–19 个 token | 2 分钟 读完 20 页 |
| GLM-4 9B 在 Twoody 中一键安装 | 需要 6.7 GB 内存 运行流畅 | 每秒 12–18 个 token | 87 秒 读完 20 页 |
| Ministral 3 8B 在 Twoody 中一键安装 | 需要 8.4 GB 内存 运行流畅 | 每秒 14–21 个 token | 83 秒 读完 20 页 |
| Granite 4.1 8B 在 Twoody 中一键安装 | 需要 8 GB 内存 运行流畅 | 每秒 13–19 个 token | 82 秒 读完 20 页 |
| Qwen3 8B 在 Twoody 中一键安装 | 需要 7.2 GB 内存 运行流畅 | 每秒 15–21 个 token | 76 秒 读完 20 页 |
| Llama 3.1 8B 在 Twoody 中一键安装 | 需要 6.9 GB 内存 运行流畅 | 每秒 15–22 个 token | 74 秒 读完 20 页 |
| Olmo 3 7B 在 Twoody 中一键安装 | 需要 8.2 GB 内存 运行流畅 | 每秒 15–22 个 token | 68 秒 读完 20 页 |
| Gemma 4 E4B 在 Twoody 中一键安装 | 需要 6.6 GB 内存 运行流畅 | 每秒 25–35 个 token | 42 秒 读完 20 页 |
| Qwen3.5 4B 在 Twoody 中一键安装 | 需要 4.4 GB 内存 运行流畅 | 每秒 18–37 个 token | 45 秒 读完 20 页 |
| Qwen3 4B Instruct 2507 在 Twoody 中一键安装 | 需要 4.9 GB 内存 运行流畅 | 每秒 28–40 个 token | 37 秒 读完 20 页 |
| Nemotron 3 Nano 4B 在 Twoody 中一键安装 | 需要 3.3 GB 内存 运行流畅 | 每秒 18–35 个 token | 38 秒 读完 20 页 |
| Ministral 3 3B 在 Twoody 中一键安装 | 需要 5 GB 内存 运行流畅 | 每秒 33–47 个 token | 35 秒 读完 20 页 |
| Phi-4 mini 在 Twoody 中一键安装 | 需要 4.6 GB 内存 运行流畅 | 每秒 28–40 个 token | 35 秒 读完 20 页 |
| Llama 3.2 3B 在 Twoody 中一键安装 | 需要 3.9 GB 内存 运行流畅 | 每秒 34–49 个 token | 30 秒 读完 20 页 |
| Gemma 4 E2B 在 Twoody 中一键安装 | 需要 4.7 GB 内存 运行流畅 | 每秒 44–64 个 token | 21 秒 读完 20 页 |
| Qwen3.5 2B 在 Twoody 中一键安装 | 需要 2.7 GB 内存 运行流畅 | 每秒 35–70 个 token | 22 秒 读完 20 页 |
| Qwen3.5 0.8B 在 Twoody 中一键安装 | 需要 1.5 GB 内存 运行流畅 | 每秒 54–163 个 token | 9 秒 读完 20 页 |
| DeepSeek-Coder-V2 Lite 在 Twoody 中一键安装 | 需要 10.4 GB 内存 能运行:请关闭其他应用 | 每秒 38–55 个 token | 28 秒 读完 20 页 |
| Ministral 3 14B Reasoning 在 Twoody 中一键安装 | 需要 10.5 GB 内存 能运行:请关闭其他应用 | 每秒 9.3–13 个 token | 2 分钟 读完 20 页 |
| GLM-Z1 9B 在 Twoody 中一键安装 | 需要 6.7 GB 内存 运行流畅 | 每秒 12–18 个 token | 87 秒 读完 20 页 |
| DeepSeek-R1 8B 在 Twoody 中一键安装 | 需要 7.2 GB 内存 运行流畅 | 每秒 15–21 个 token | 76 秒 读完 20 页 |
| DeepSeek-R1 Distill Llama 8B 在 Twoody 中一键安装 | 需要 6.9 GB 内存 运行流畅 | 每秒 15–22 个 token | 74 秒 读完 20 页 |
| DeepSeek-R1 Distill Qwen 7B 在 Twoody 中一键安装 | 需要 5.5 GB 内存 运行流畅 | 每秒 16–24 个 token | 71 秒 读完 20 页 |
| Qwen3 4B Thinking 2507 在 Twoody 中一键安装 | 需要 4.9 GB 内存 运行流畅 | 每秒 28–40 个 token | 37 秒 读完 20 页 |
| Phi-4 mini reasoning 在 Twoody 中一键安装 | 需要 4.6 GB 内存 运行流畅 | 每秒 28–40 个 token | 35 秒 读完 20 页 |
| SmolLM3 3B 在 Twoody 中一键安装 | 需要 3.2 GB 内存 运行流畅 | 每秒 35–51 个 token | 29 秒 读完 20 页 |
| LFM2.5 2.6B 在 Twoody 中一键安装 | 需要 2.1 GB 内存 运行流畅 | 每秒 29–58 个 token | 26 秒 读完 20 页 |
| MiniCPM5 2B 在 Twoody 中一键安装 | 需要 2.5 GB 内存 运行流畅 | 每秒 40–58 个 token | 23 秒 读完 20 页 |
| Llama 3.2 1B 在 Twoody 中一键安装 | 需要 1.6 GB 内存 运行流畅 | 每秒 52–156 个 token | 11 秒 读完 20 页 |
此外,有 6 个模型会部分在处理器上运行,慢很多;25 个模型对这台电脑来说太大。 在计算器中查看全部
每个模型的内存数值,都是 Twoody 在这台电脑的“模型”中显示的数值:相同的公式、相同的文件(包括读取图片所用的文件)、相同的对话长度(目录核对于 2026年10月15日)。
iMac M4 与 iMac M3 和 iMac M1 对比
| 电脑 | 内存 | Qwen3.5 9B 生成速度 | 读一份文档 | 能流畅运行的最强模型 |
|---|---|---|---|---|
| iMac M4 | 16 GB | 每秒 9.3–19 个 token | 2 分钟 读完 20 页 | Gemma 4 12B 每秒 11–15 个 token |
| iMac M3 | 16 GB | 每秒 8–16 个 token | 2 分钟 读完 20 页 | Gemma 4 12B 每秒 9.4–14 个 token |
| iMac M1 | 16 GB | 每秒 5.4–11 个 token | 3 分钟 读完 20 页 | Gemma 4 12B 每秒 6.3–9 个 token |
内存决定能装下哪些模型;芯片决定生成速度。每台 Mac 都按 16 GB 内存或最接近的配置来比较。
这款 Mac 有 16、24 或 32 GB 内存可选,由处理器和图形部分共享,图形部分可以使用其中大部分:这份内存决定能装下哪些模型,而且买后无法加装。
它读取内存的速度为每秒 120 GB。生成速度更多取决于这个带宽而不是处理器:所以同一个模型在 Pro、Max 或 Ultra 芯片上生成得更快。
Twoody 正在搭载 Apple 芯片、macOS 13.3 或更高版本的 Mac 上内测:它会推荐适合这台 Mac 的模型,一键安装,并用 llama.cpp 运行;在 macOS 14 上还可以安装 Apple 的引擎 MLX。
关于在本地运行大模型的问题
16 GB 的 iMac M4 适合哪个本地大模型?
能流畅运行的最强模型是 Gemma 4 12B,生成速度为每秒 11–15 个 token。它可从 Twoody 的目录一键安装。Twoody 默认推荐 Qwen3.5 9B,在这里需要 7.4 GB 内存:这是 Twoody 用自己的记忆、工具和你的文档测量过的模型之一。
在 iMac M4 上运行本地大模型需要多少内存?
按内存,能流畅运行的最强模型分别是:16 GB 时为 Gemma 4 12B(每秒 11–15 个 token,在 Twoody 中一键安装);24 GB 时为 Qwen3 14B(每秒 8.6–12 个 token,在 Twoody 中一键安装);32 GB 时为 Qwen3.6 35B-A3B(每秒 30–59 个 token,在 Twoody 中一键安装)。Mac 的内存买后无法加装:请按你想运行的模型来选择。
iMac M4 每秒能生成多少 token?
使用 Twoody 在这里推荐的 Qwen3.5 9B,生成速度为每秒 9.3–19 个 token,读一份约 20 页的文档需要 2 分钟。这些速度是根据 llama.cpp 公开基准测试得出的估算值,并非用 Twoody 实测。
iMac M4 与 iMac M3 和 iMac M1,哪个生成得更快?
使用 Twoody 推荐的 Qwen3.5 9B:iMac M4 每秒 9.3–19 个 token;iMac M3 每秒 8–16 个 token;iMac M1 每秒 5.4–11 个 token。内存决定能装下哪些模型;芯片决定生成速度。
Twoody 能在 iMac M4 上运行吗?
在内测中可以,需要 macOS 13.3 或更高版本:Twoody 会推荐合适的模型,一键安装,并用 llama.cpp 在 Mac 的图形部分上运行。留下你的邮箱,即可加入候补名单。
在向所有人开放之前,抢先试用 Twoody。
内测免费,支持 Mac、Windows 和 Linux,也支持 iPhone 和 Android(配合你电脑上的 Twoody 使用)。留下你的电子邮件地址申请邀请:为你准备好后,我们会写信通知你。