Apple 的技術規格列出 Mac mini M4 可配置 16GB、24GB 或 32GB 統一記憶體；這些是硬體配置，不是模型的可用記憶體保證。Apple 的 Mac mini 技術規格可供核對。本週建議先按你的實際記憶體、量化與上下文設定做一次完整負載測試；沒有相同條件的可複核資料，就不要把 7B、14B 或 32B 直接判定為「流暢」或「跑不動」。
這篇適合正在挑選 Mac mini M4 記憶體配置、已經有機器想測本地 AI 模型，或要評估 AI Agent 推理工作負載的你。
如果你需要的是可直接套用的速度數字，請留意：目前沒有可供本文核實的本站同條件測試紀錄，相關表現會明確標示為未知，不會用推算補數。
先按測試證據判斷 7B、14B、32B
同一個模型規模，會因量化、上下文長度、推理軟體和背景程式而呈現不同的記憶體壓力與生成速度。本文沒有取得 Mac mini M4 的實際設備日誌，因此不能報出記憶體占用、載入時間、tokens/s 或持續推理結果。下表先把「可確認的配置」與「尚未核實的模型表現」分開。
| 模型規模 | 目前可確認的內容 | 本文無法確認的內容 |
|---|---|---|
| 7B | 是本文要比較的模型規模 | 指定量化與上下文下的實際速度、占用及持續性 |
| 14B | 是本文要比較的模型規模 | 指定量化與上下文下的實際速度、占用及持續性 |
| 32B | 是本文要比較的模型規模 | 指定量化與上下文下能否穩定載入及持續推理 |
目前可執行的判斷是：7B 與 14B 先看持續推理；32B 更要先驗證記憶體餘量和生成速度。任何一檔都不能只憑模型名稱判斷。尤其是「載入成功」只表示模型開始運作，不能證明長提示、多輪對話或其他程式同時執行時仍然可用。
注意：表中未提供量化規格與實測結果，並非代表模型不能執行，而是目前沒有足夠資料支撐可重複的效能結論。請勿把未知寫成最低記憶體需求或速度保證。
再拆解記憶體：權重以外還有快取和系統占用
模型檔案大小不是推理期間的完整記憶體需求。推理時，權重以外還會有上下文快取、執行環境及作業系統程序。Apple 對統一記憶體的說明指出，處理器各部分會共用這種記憶體資源；你不能把裝置標示的總容量全部當成模型專用空間。MLX 的統一記憶體文件也說明了統一記憶體的工作方式。
| 模型規模 | 要核對的記憶體來源 | 本文的實測狀態 | 購機前應採用的判斷 |
|---|---|---|---|
| 7B | 權重、快取、推理程式和背景程序 | 占用及剩餘量未知 | 用預計量化和提示長度實測，不以模型檔案大小代替 |
| 14B | 權重、快取、推理程式和背景程序 | 占用及剩餘量未知 | 確認多輪對話仍有可用餘量，再判斷日常適用性 |
| 32B | 權重、快取、推理程式和背景程序 | 載入、持續推理均未測 | 先驗證完整工作負載，單次載入成功不算通過 |
快取需求會受上下文長度、模型結構和快取精度影響，不能只用參數量算出一個通用答案。Hugging Face 對 KV 快取量化及估算條件的說明可用來理解這些變因；它不是 Mac mini M4 的實測結果。macOS「活動監視器」中的記憶體壓力與記憶體使用資訊，也比只看模型檔案大小更適合用來觀察整機狀態。Apple 的活動監視器記憶體說明
按一致口徑記錄生成速度
現在沒有同設定下 7B、14B、32B 的速度紀錄，因此本文不提供 tokens/s 排名，也不按參數量推導速度差。生成速度至少要分清提示預填充與逐字生成：提示長度會影響前一階段，輸出生成則應在可比較的輸出條件下單獨記錄。把兩者混成一個數字，會讓短提示測試看起來比實際長對話更理想。
| 測試欄位 | 必須記錄的內容 | 為何影響比較 |
|---|---|---|
| 設備 | Mac mini M4 的記憶體配置及同時開啟的程式 | 系統可用餘量會改變 |
| 模型 | 名稱、版本、參數規模與量化方式 | 不同模型不能只按 7B、14B、32B 歸類 |
| 提示條件 | 上下文設定、提示長度及輸出長度 | 預填充與生成階段負載不同 |
| 軟體與指標 | 推理軟體版本、預填充速度、生成速度 | 讓其他人能重複相同測法 |
MLX-LM 的基準腳本列出基準測試的執行方式與指標，可作為記錄生成與提示處理表現的參考。MLX-LM benchmark.py 文件使用不同推理工具時，也要將參數一併記下；例如 MLX-LM 伺服器文件說明快取量化相關設定，而 llama.cpp 伺服器文件列出伺服器參數。這些文件說明如何設定，不等同於任何特定模型在 Mac mini M4 上的速度證據。
逐步檢查上下文和長時間穩定性
短提示能完成一次生成，不代表長上下文和連續對話也穩定。上下文變長時，快取可能增加記憶體需求；如果同時有其他工作程式，系統餘量也會改變。本文沒有長上下文或長時間推理的實測日誌，因此錯誤率、速度下降幅度與中斷情況均未知。
你可以按以下順序建立自己的可複核紀錄：
- 記下硬體配置。記錄 Mac mini M4 的統一記憶體容量，並關閉不必要的背景程式；不要用另一種容量的結果替代。
- 固定模型條件。記錄模型名稱、版本與量化方式。若更換模型或量化檔，視為另一組測試。
- 固定上下文和提示。用預計工作的提示長度與多輪對話內容測試，不要只用空白或極短提示。
- 分開量測速度。記錄提示預填充和生成階段的指標，並保存測試輸出；不要從模型參數量推估 tokens/s。
- 觀察系統記憶體。在載入前、開始生成後及多輪對話後記錄活動監視器的記憶體資訊與壓力。
- 重複並記錄異常。每次使用相同設定；保存報錯、載入失敗、生成中斷或明顯變慢等情況。
- 按完整工作負載下結論。只有預期的上下文、多輪對話與必要背景程式都能持續運作，才把該配置列為日常可用。
提醒：不同測試工具的快取參數與速度定義未必相同。若要比較兩個結果，先核對模型、量化、上下文和指標是否一致；缺一項，就把它們當成不同測試，而不是直接排快慢。
用可勾選清單決定先測哪一檔
- [ ] 你優先要回應速度：先固定短提示與預期輸出長度，測試 7B 和 14B 的實際生成速度；本文沒有數據可以替你預判哪個一定較快。
- [ ] 你更在意模型能力：比較候選模型在自己的任務上的輸出品質，再確認量化與長上下文下能否穩定持續推理。
- [ ] 你想使用較長上下文：優先記錄快取與系統記憶體壓力，不要只確認模型能載入。
- [ ] 你考慮 32B：在購買或把它納入日常流程前，先以目標量化、上下文和多輪工作負載測試；若沒有餘量與持續性紀錄，結論應維持「未確認」。
- [ ] 你要同時跑 AI Agent 和其他程式：把 Agent 的上下文、工具呼叫和背景程序納入完整測試，不要以單次聊天生成代替實際負載。
先看清測試空白，再選擇工作方式
目前沒有可引用的本站 Mac mini M4 本地模型實測紀錄，所以 7B、14B、32B 的實際記憶體占用、速度與長時間穩定性都不能在本文中確認。若你主要在本機反覆推理，而且需要固定硬體環境，自購 Mac mini 仍可避免每次把工作交給遠端環境；但本機記憶體有上限，長上下文會增加負載，推理也會占用你平時使用的電腦資源。
若你正在評估短期測試環境，先把需要確認的配置、連線方式和軟體相容性列清楚，再到 VPSSpark 說明中心核對可查的服務資訊；不要把未確認的遠端規格當成效能承諾。若只是短期驗證模型、比較工作流程，或本機測試超出可用餘量，直接為單次需求購買設備可能不合算。租用 VPSSpark 的 Mac 可作為另一種測試方式，但在決定前仍要核對可用配置、連線方式、費用與你的軟體需求。你可先依同一套模型、量化與上下文條件評估，是否需要臨時使用雲端 Mac 算力。若要確認租用服務的操作與支援資訊，也可參閱 VPSSpark 的使用與支援說明。
常見問題
7B 模型會不會最適合所有 Mac mini M4 使用者？
不一定。模型規模較小不等於一定符合你的任務，也不能代替量化、上下文與速度測試。若你的應用會執行多輪 Agent 流程，請用真實工具呼叫和提示長度驗證；若只做短問答，也應量測實際生成速度。本文沒有同條件實測，無法替所有配置指定最佳模型。
14B 模型的記憶體需求可以從檔案大小直接換算嗎？
不可以。檔案大小只能描述模型檔案，推理時還有快取、執行環境和系統程序占用。你應在目標上下文和實際推理軟體下觀察記憶體壓力，並測試多輪對話後是否仍可持續生成。沒有這些紀錄時，將某個容量稱為 14B 的通用最低需求並不可靠。
32B 載入完成後，就代表適合日常推理嗎？
不代表。載入只完成了工作流程的一部分；你還要確認生成速度是否符合用途、長提示時記憶體是否吃緊，以及多輪推理是否中斷或明顯變慢。本文沒有可複核的 32B 本機測試，所以不能給出「能穩定執行」的結論。請先用完整工作負載測過，再決定是否依賴它。
比較 7B、14B 和 32B 的速度時，應記錄哪些指標？
至少把提示預填充與逐字生成分開記錄，並保存模型名稱與版本、量化、上下文設定、推理軟體版本和 Mac mini M4 記憶體配置。測試提示及輸出長度也要一致。否則速度差可能來自不同工作條件，而非模型規模；單一短提示結果不能代表日常多輪使用。
用 VPSSpark Mac mini M4，親手測試本地 AI 模型
租用 16GB 或 24GB 記憶體配置，按你的模型與上下文需求，實際比較載入和運行表現。
可選按天、按週、按月或按季租用，先測試合適的配置，再決定使用週期。