VPSSpark ブログ
← 開発日記に戻る

痛い失敗談!Ollama を動かすなら 16GB・24GB・32GB を適当に選ぶな

サーバーメモ · 2026.07.11 · 読了目安 約12分

よくある検索:Ollama メモリ · 16GB 24GB 32GB · Mac ローカル LLM

MacBook とコードエディタ——Ollama ローカル LLM とメモリ選定の開発シーン
Ollama のソフト面のハードルは低いが、本当に効くのはユニファイドメモリにモデルとコンテキストが収まるかどうか。

最初に Ollama を動かしたのは、16GB の Mac mini M2 でした。チュートリアルは「コマンド一発でモデルを pull、ローカルでチャットできる」と書いてあったので、ollama run llama3.1:8b を実行。最初の5分は快適。10分目にはファンが唸り、アクティビティモニタのメモリ圧力が赤に変わり、ブラウザのタブ切り替えがコンクリートを引きずるような重さになりました。

学んだこと:Ollama 用に 16GB・24GB・32GB を選ぶとき、「大きいほど常に正解」ではない。モデル+コンテキスト+バックグラウンドアプリが、ユニファイドメモリに収まるかどうかが本質だ。 この記事では、自分が踏んだ罠と、友人に「何を買えばいい?」と聞かれたときの判断フレームをまとめます。無駄な出費と徹夜を減らすための話です。

「GPU ある?」より先に RAM が噛みつく理由

Windows のゲーミングノートでは VRAM ばかり気にします。Apple Silicon Mac では、CPU と GPU が同じユニファイドメモリを共有します。Ollama の重み、推論時の KV キャッシュ、macOS のキャッシュ——全部ここから取られます。公式ドキュメントとコミュニティのベンチマークも一致しています:モデルが大きく、コンテキストが長いほど RAM を食う。アクティビティモニタの「メモリ」行と同じプールです。

罠その1:パラメータ数だけ見て、量子化を無視する。 7B でも Q4_K_M なら約 4〜5GB、Q8 や FP16 なら倍近く。罠その2:OS を忘れる——macOS、ブラウザ、チャット、IDE で 4〜6GB は当たり前。16GB マシンに残るのはモデル用に約 10GB。罠その3は地味:OOM エラーを期待するが、よくあるのは「動くが、地獄のように遅い」。 RAM が足りないと macOS は SSD にスワップ。tokens/s が 30 から 3 に落ち、モデルのせいにしがち——実はディスクが RAM のふりをしている。

~1×
Q4 モデルサイズ(パラメータ数に対する GB 目安)
4–6GB
macOS + 日常のバックグラウンド利用
32K
長コンテキストで KV キャッシュがさらに数 GB

16GB:遊べるが、本番向きではない

16GB でも Ollama は動きます——小さなモデル、短いチャット、バックグラウンドを絞るなら、それなりに快適。具体的な適合例:

  • お試し:3B〜7B の Q4 モデル(llama3.2:3bqwen2.5:7b-instruct-q4_K_M など)
  • 単発の Q&A、メール下書き、短い翻訳
  • エージェントなし、複数モデル同時ロードなし、コンテキスト ~16K 以下

自分の典型的な地獄シーン:Chrome(20タブ超)、VS Code、Docker Desktop、8B モデルを 16GB で——クラッシュはしない、「なめらかな死」、1トークン半秒。Docker とタブ半分を閉じると、すぐ速度が戻る。

16GB の結論: Ollama は軽量アシスタント扱い。14B 以上を安定運用するつもりは捨て、OpenClaw・ベクトル DB・ブラウザ自動化をローカルに積み上げない。Gateway を VPS に置き、自宅 Ollama を上流にするなら、16GB は小モデルホストとしては成立——OpenClaw + Ollama ゲートウェイのトラブルシュートを参照。

24GB:2026年、個人開発者のスイートスポット

長期で Ollama を使うなら一つ選ぶなら、24GB が個人開発者に最もよく勧める容量です。実用的な理由:

  • 7B〜8B を常駐させつつ、OS と IDE に余裕——毎日アプリを閉じなくていい
  • 14B Q4 も多くのワークフローで現実的。コードや長文要約は 7B より明らかに良い
  • 8K〜16K コンテキストなら KV キャッシュの増加も管理しやすい
  • Ollama に加え、軽量ベクトル DB や Docker 1サービス程度——どちらか一方を諦めなくていい

24GB で 70B が魔法のように動くわけではありません。価値は品質とコストのバランス:Mac mini M4 24GB は 32GB より安く、日常開発+ローカル 8B/14B 推論を快適にこなせます。

見落としがち:Apple のメモリははんだ付け——後から増設不可。「16GB で様子見」は Mac では取り返しのつかない判断。24GB はモデル肥大化への保険——2024年のデフォルトは 7B、2026年は 14B から始める人も多い。追加 8GB は保険料です。

32GB:エージェント、複数モデル、「RAM を数えたくない」層向け

32GB は誰向け?ローカル LLM を週末のおもちゃではなくインフラとして扱う人です。

  • 常時 OpenClaw、LangGraph などのスタック、Ollama を上流の一つとして
  • 複数の ollama pull モデル(コード用 7B、執筆用 14B、小さな embed モデル)
  • コンテキスト 32K+ が日常、または RAG で長文をプロンプトに載せる
  • Docker Compose の AI スタック一式——Docker で AI アプリをデプロイとセットのことが多い

32GB でも 70B は飛びません。削れるのは「これ閉じて、あれ開いて」の税。いちばん遅いデバッグは設定ミスより、メモリ崖の上での生活——今日は動く、明日 Notion と Slack が加わって死ぬ。

予算が厳しい?軽い推論は 24GB 本体、重い仕事はクラウド Mac か VPS。 ハードを決める前にクラウド Mac を借りるのと同じ発想——プログラミング学習で Mac か Windows かも参照。

16GB・24GB・32GB のユニファイドメモリで Ollama モデルサイズをどう扱えるか
同じモデルでも、快適・ギリギリ・スワップ地獄——容量だけでなく、アプリを閉じるか、量子化を現実的に選ぶかで変わる。

判断表:マーケ文言は無視していい

主な用途 RAM 目安 理由
たまにローカルチャット、Ollama CLI を学ぶ 16GB(可) 3B〜7B Q4;アプリを閉じ短コンテキストを受け入れる
日常開発+ローカル 7B/8B コーディング支援 24GB(推奨) OS+IDE+モデルが同時にオンライン、安定感
14B、長めの文書、軽い RAG 24GB(最低)/ 32GB(余裕) 14B Q4 約 8〜9GB;キャッシュ込みで 16GB はきつい
エージェントスタック+Docker+複数モデル 32GB コンポーネント多、ピークと断片化が積み上がる
70B をローカルでフル推論 コンシューマー級は諦め クラウド GPU か API;RAM で無理押ししない

RAM を買う前に試す5つの調整(安上がり)

メモリ増設の前に、これらを試してください——16GB で半年延命した手順です:

  1. 量子化を賢く選ぶ:まず Q4_K_M か Q5、FP16 ではない。ollama show <model> --modelfile でサイズ確認。
  2. コンテキストを上限設定:Modelfile や API で num_ctx——チャットなら 4K で十分なことが多い。デフォルト 32K 不要。
  3. 同時ロードは1モデルollama ps のあと、不要なら ollama stop
  4. 重いバックグラウンドを削る:Docker Desktop、Electron IM、Chrome タブ溜め——推論中は Safari か1プロファイル。
  5. 「使用 GB」よりメモリ圧力:黄・赤の圧力の方がカクつき予測に効く。

さらに細かいノブ:Ollama Modelfile ドキュメント

何度も見る「血と涙」3話

話1:「16GB で十分、7B だけだから。」 — embed モデルと Open WebUI を追加。3つの食いしん坊、25 tokens/s → 4。Wi‑Fi のせいにした。

話2:「32GB 払った、無敵。」 — それでも FP16 寄り、32K コンテキスト、Chrome 全開。70B は依然スワップ。容量はモデルを縮めない。

話3:「Windows 32GB の方が 16GB Mac より強い。」 — NVIDIA VRAM なら別話。Mac の Ollama ではユニファイドメモリの帯域と共有のおかげ、16GB Mac の方が 16GB iGPU ノートより 7B が安定することも。GB ステッカー比較ではなくプラットフォーム比較を。Apple のApple Silicon ユニファイドメモリ(MLX など)も効く。

まとめ:後悔しない選び方

3つの質問:

  1. 実際に回すモデルサイズは? 7B/8B 定番 → 24GB;3B お試し → 16GB 許容;14B+ やスタック → 32GB。
  2. 推論中にアプリを閉じられる? 閉じられない → 16GB は買わない。
  3. 後から RAM 増設できる? Mac では不可——小さく買うのは永続的ミス。デスクトップ Windows は増設可だが、Ollama+CUDA は別レーン。

2026年の私見:本気の Ollama 開発コパイロットは 24GB からコスパ良し;エージェント派でメモリ管理を拒否するなら 32GB;16GB は軽い実験のみ——目を開けて。「RAM 多ければ常に勝ち」を崇めないが、KV キャッシュと長コンテキスト——静かなメモリ怪物——も侮らないで。


一言で:Ollama のソフト障壁は低い;ハードはまずユニファイドメモリに当たる。16 / 24 / 32 GB を注文する前にモデル tier とワークフローを知れば、金も叫ぶファンの夜も節約できる。

快適なローカル Ollama には適切な tier——クラウド Mac も

Ollama を快適に動かすには十分なユニファイドメモリと帯域が要る。Mac mini M4 の 24GB / 32GB 構成は、寄せ集め PC よりローカル 7B〜14B 推論が落ち着いて回る——静か、低消費電力、常時起動も問題なし。

大きなハード賭けを避けたい、モデルと Xcode 用の第二マシンが欲しい? VPSSpark クラウド Mac サブスクで tier を分けられる——軽い実験はローカル、エージェントとビルドキューはクラウド。

クラウド Mac プランを見る

期間限定

Ollama には正しいメモリ枠を

クラウド Mac 24GB/32GB · 月額 · 後から増設できない後悔を避ける

ホームへ
期間限定 プランを見る