MacでローカルLLM
MacでローカルLLMを動かす
大規模言語モデルは、Macの中だけで動かせます。プライベートに、オフラインで、無料で。必要なもの、モデルの選び方、そして最も簡単な始め方を紹介します。PCをお使いなら、TwoodyにはWindows版とLinux版もあります。
MacでLLMを動かす理由
モデルはMacの上で回答し、ファイルを読み込みます。モデルをインストールした後は、インターネットがなくても動きます。サブスクリプションも利用上限もなく、アカウントも不要です。その代わり、Macに収まるモデルはオンラインの最大級のモデルより小さくなります。文章作成や要約、文書への質問には十分ですが、最も難しい推論は得意ではありません。
必要なもの
Apple Silicon(M1以降)のMacなら、快適にモデルを動かせます。Intel Macでも小さなモデルならCPUで動きますが、速度は遅くなります。使えるモデルはメモリで決まります(Twoodyの計算による目安)。約40億パラメータなら8GB、80億なら16GB、140億なら24GB、4ビットで240億〜350億なら32〜36GB、700億なら64GBです。
モデルの選び方
Qwen3.5はどのサイズでも、日本語を含む多くの言語を上手に書きます。Llama、Gemma、Mistral、gpt-ossも良い選択肢です。まずはメモリに余裕をもって収まるモデルから始めましょう。Macがスワップするほど大きなモデルは、小さなモデルより遅くなります。
Twoodyがしてくれること
- Macに合ったモデルを提案し、ワンクリックでインストールします。カタログには57のモデルがあり、それぞれに必要なメモリが示されています。
- 文書のフォルダを読み込み、回答にはページ単位まで出典を示します。
- macOS 13.3以降で、Intel搭載MacでもApple Silicon搭載Macでも動きます。Apple Silicon搭載MacでmacOS 14以降なら、AppleのエンジンであるMLXもインストールできます。Windows版とLinux版もあります。
Twoodyなら3ステップ
-
1
ウェイトリストに登録します。TwoodyはMac、Windows、Linuxのいずれも非公開ベータ版です。ご利用いただけるようになりましたら、メールでお知らせします。
-
2
Macに合わせて提案されたモデルを、ワンクリックでインストールします(Qwen3.5 4Bは3.5GB、9Bは6.7GB)。
-
3
最初の質問をしてみましょう。お好みでWi-Fiをオフにしても構いません。
よくある質問
MacでローカルLLMを動かすのは無料ですか?
はい。オープンウェイトのモデルは無料でダウンロードでき、Twoodyも無料です。かかるのはMacのメモリと電気代だけです。
MacでLLMを動かすには、どれくらいのメモリが必要ですか?
Qwen3.5 4Bのような小さなモデルなら8GB、Qwen3.5 9BならApple Silicon搭載Macで16GB(Intel搭載Macでは32GB)、Qwen3.6 35B-A3Bなら24GBです。Twoodyでは、カタログの各モデルに必要なメモリが示されます。計算ツールで、Macごとにどのモデルが収まり、どれくらいの速度で動くかを確認できます。
Intel MacでもローカルLLMは動きますか?
はい。TwoodyならmacOS 13.3以降で動きます。モデルはCPUで動くため、小さなモデルなら動作しますが、速度は遅めです。
ローカルLLMはChatGPTと同じくらい優秀ですか?
日常的な文章作成や文書への質問なら、多くの場合、十分に近い結果が得られます。最も難しい質問では及びません。その代わり、プライベートで、オフラインで使え、無料です。
一般公開の前に、Twoodyをお試しください。
非公開ベータ版は無料です。Mac、Windows、Linuxで、そしてパソコンのTwoodyと連携してiPhone・Androidでもお使いいただけます。メールアドレスをご登録のうえ招待をリクエストしていただければ、準備が整い次第お知らせします。