Mac mini M4はどれくらい大きなローカルAIモデルを実行できる？7B、14B、32Bモデルの速度とメモリ実測

モデルを読み込めても、返答が遅い、メモリに余裕がないという状況で迷っていませんか。
今週はモデルの大きさだけで決めず、統一メモリ、量子化、コンテキスト長をそろえて判定してください。7Bと14Bは継続生成の快適さ、32Bはメモリの余裕と速度が確認できるまで「日常利用可能」と見なさないのが安全です。

この記事は、Mac mini M4でローカルAIモデルを試したい人、メモリ構成を選びたい人、AI Agentの推論環境を評価する開発者向けです。
掲載可能な同条件の実機ログがないため、各モデルの実測速度・メモリ使用量・長時間安定性は未確認です。以下では、確認できる仕様と、数値を誤認せずに実機で判定する方法を分けて説明します。

まずモデル別に、何が分かっていて何が未確認かを整理する

Mac mini M4がモデルを読み込めるかは、モデルの規模だけでは決まりません。重みの量子化、推論ソフトの実装、コンテキスト長、OSや他のアプリが使うメモリも影響します。「一度ロードできた」と「会話を続けても速度とメモリに余裕がある」は別の判定です。

モデル規模	読み込み・継続推論の実測	日常利用で先に確認する点	現時点の評価
7B	対応する実機ログなし	生成速度、会話を続けた際のメモリ圧力	未確認
14B	対応する実機ログなし	量子化後の重みとコンテキストキャッシュの余裕	未確認
32B	対応する実機ログなし	継続生成中の速度、メモリ余力、エラーの有無	未確認

Appleの仕様では、M4搭載Mac miniの統一メモリ構成は16GB、24GB、32GBです。メモリ帯域幅は120GB/sとされています。ただし、これはハードウェア仕様であり、特定モデルの推論速度を保証する測定値ではありません。AppleのMac mini技術仕様

Mac mini M4で7Bモデルは滑らかに動きますか。
同じ量子化、コンテキスト長、ソフトウェアでの実測がないため、滑らかさは断定できません。まず自分の構成で生成速度とメモリ圧力を測り、普段使う長さの会話を続けても安定するかを確かめてください。

14Bモデルに必要な統一メモリはどれくらいですか。
一律の必要量は示せません。モデル重みだけでなく、推論時のキャッシュ、ソフトウェア、OSや同時起動アプリの使用分も加わるためです。ファイルサイズだけで必要メモリを決めず、読み込み後と生成中の両方を確認します。

32Bモデルは読み込んで継続実行できますか。
この条件での実測結果はありません。読み込みの成功だけでは継続利用の根拠にならないため、長めの入力と複数ターンの会話で、速度低下やメモリ不足、生成停止が起きないかを検証してください。

メモリ使用量は重みとキャッシュを分けて見る

モデルファイルの容量は、実行中に必要なメモリ量そのものではありません。量子化で重みの容量は変わりますが、入力や会話履歴に応じて使われるKVキャッシュも加わります。キャッシュ量はモデルの構造やコンテキスト長などの条件に左右されるため、条件をそろえずに別モデルの数値と比べることはできません。KVキャッシュ量の見積もり要素

また、AppleシリコンではCPUとGPUが統一メモリを共有します。推論だけがメモリを使うわけではなく、OSや並行して動作するアプリも同じ余力を消費します。MLXの統一メモリの説明アクティビティモニタでは使用済みメモリの数字だけでなく、メモリプレッシャーも合わせて確認してください。アクティビティモニタのメモリ情報

つまり、Mac mini M4の構成を選ぶときは「モデルの重みが収まるか」だけでなく、「会話を続けてもキャッシュと他の処理のための余裕が残るか」を見る必要があります。現状では特定の構成で何GB残るかを示す実測値はありません。

生成速度は入力処理と返答生成を分けて測る

「速度」を単一のtokens/sでまとめると、入力の処理と返答の生成の違いが見えなくなります。ベンチマークでは、入力側の処理速度と生成側の速度を別々に記録してください。MLX-LMのベンチマークスクリプトも、プロンプト処理と生成の指標を区別して扱います。MLX-LMのベンチマーク方法

7B、14B、32Bの生成速度を比較できる同条件のログは未確認です。パラメーター数から速度を推算して「何tokens/s」と記載することはできません。テスト時はモデル名と版、量子化方式、ソフトウェアの版、コンテキスト設定、測定区間を一緒に記録します。

量子化キャッシュを使う場合は、その設定も記録対象です。推論ソフトのオプションやサーバー設定によって、測定条件が変わるためです。MLX-LMのキャッシュ量子化設定別の推論環境を使う場合も、サーバー側のコンテキストやキャッシュ関連の設定を確認してください。llama.cppサーバーの設定項目

コンテキストを伸ばし、継続時の安定性を確かめる

短い入力で返答できても、長い会話で同じ状態が続くとは限りません。コンテキストが増えるとキャッシュの負荷も変化し、生成速度やメモリプレッシャーに影響する場合があります。短いプロンプトだけの結果を、長時間のAI Agent運用にそのまま当てはめないでください。

実測ログがないため、7B、14B、32Bそれぞれについて、長文入力後の速度低下、メモリ圧力の増加、エラー、生成停止の有無は未確認です。ソフトウェアによってはキャッシュの量子化設定を変更できますが、その設定を変えた結果は元の条件と分けて記録します。

同じ条件で再測定するための手順をそろえる

比較の前に、次の項目をチェックしてください。モデルのサイズ以外の条件が異なると、速度差やメモリ差の理由を特定できません。

[ ] Mac mini M4の統一メモリ構成と、測定中に起動しているアプリを記録する
[ ] モデル名、版、量子化方式、モデルファイルの情報を記録する
[ ] 推論ソフトと版、コンテキスト長、キャッシュ関連設定を記録する
[ ] 入力の処理速度と生成速度を別々に測る
[ ] 読み込み直後と生成中のメモリ使用量、メモリプレッシャーを記録する
[ ] 長めの入力と複数ターンの生成を行い、停止やエラーの有無を確認する
[ ] 同じ条件で測定を繰り返し、単発の成功と継続利用を区別する

メモリ使用量は、モデルファイルの容量だけで代用せず、実行中にシステムの表示から記録します。プロンプト処理と生成の測定方法は使うベンチマークに合わせ、設定や原ログを残してください。これにより、後から条件をそろえて再測定できます。

使い方に合わせてモデル規模を選ぶ

返答の速さを優先するなら、まず7Bを候補にし、実際の用途で生成速度と会話継続時の安定性を確かめます。モデルの応答内容を優先して14Bを試す場合も、必要な統一メモリをパラメーター数だけから断定せず、量子化とコンテキスト設定を合わせて評価してください。

32Bは、ロードできたという結果だけで選ばないでください。実行中のメモリ圧力、返答速度、長い会話での停止やエラーが確認できない場合は、常用できるかどうかを保留にするのが妥当です。いずれの規模でも、今回のように同条件の実測が得られない場合、特定の内蔵メモリ構成を「最適」と断定する根拠はありません。

実測範囲を超える場合は、一時利用も比較する

本機で試す方法は、設定を自分で管理でき、手元の環境で継続して検証できる点が利点です。一方、モデルごとの設定やログ管理に時間がかかり、同時に他の作業をするとメモリ余力が変わり、実機の構成を買い替えない限り比較できる条件にも限りがあります。必要な作業が一時的な大規模モデルの検証や別環境との比較なら、購入前に一時利用の選択肢も検討できます。

接続場所と作業環境を先に比べたい場合は、日本向けのMac利用案内と米国東部向けの案内を確認してください。長時間の高負荷を常時かける用途や、物理ポートへの直接接続が必要な作業は、レンタルが適さない場合もあります。手元のMac mini M4で測った速度とメモリ余力を基準に、不足する作業だけVPSSparkのMac利用環境で一時的に試すかを判断してください。