在你的 Mac 上本地运行大模型

为什么要在 Mac 上运行大模型

模型在这台机器上回答问题、阅读你的文件。没有网络也能用。没有订阅，没有用量限制，也无需账户。代价是：能装进 Mac 的模型比最大的在线模型小——写作、总结和处理你的文档都很出色，但最难的推理就稍逊一筹。

你需要什么

搭载 Apple 芯片（M1 或更新）的 Mac 能流畅运行模型；Intel Mac 只能用处理器运行小模型，速度较慢。内存决定能用什么模型：约 40 亿参数需要 8 GB，80 亿参数需要 16 GB，140 亿参数需要 24 GB，笔记本能容纳的最大模型则需要 48 GB 或更多。

该选哪个模型

Qwen3.5 在各种尺寸下都能用多种语言写得很好；Llama、Gemma、Mistral 和 gpt-oss 也是不错的选择。先从能宽裕地装进你内存的模型开始：太大的模型会让 Mac 频繁使用交换空间，反而比小模型更慢。

三种方法

• Twoody——一款应用，会为你的 Mac 推荐合适的模型并一键安装；它能阅读你的文档文件夹并注明出处。支持 Intel Mac 和 macOS 13，也有 Windows 和 Linux 版。
• LM Studio——一款可以探索数千个模型及其设置的应用。需要 Apple 芯片和 macOS 14 或更高版本。
• Ollama——一个通过终端、API 或其应用使用的引擎。需要 macOS 14 或更高版本。

用 Twoody，只需三步

1. 1

   加入候补名单：Twoody 目前处于内测阶段，Mac 版和 Windows、Linux 版都是如此；向你开放时，我们会写信通知你。

2. 2

   安装它为你的 Mac 推荐的模型：2.8 GB 或 5.8 GB，一键完成。

3. 3

   提出你的第一个问题——愿意的话，可以关掉 Wi-Fi 试试。