Mac 租賃

2026 DeepSeek-R1 Mac 記憶體溢位:Ollama 安全止血步驟

2026 DeepSeek-R1 Mac 記憶體溢位:Ollama 安全止血步驟

「Metal 分配失敗、程序被終止,或 DeepSeek-R1 跑到一半沒有輸出」——先不要重播請求。最快的安全解法是先卸載異常模型,必要時重啟 Ollama;接著依序收緊上下文長度、並發請求數與模型駐留時間。完成基線復測後,才測試 Flash Attention 或 KV Cache 量化。最低業務上下文仍無法穩定裝入時,應改用具備更大統一記憶體的遠端 Mac,而不是先改 macOS 內核參數。

這篇適合正在處理 DeepSeek-R1 推理中斷、需要在半小時內恢復本地開發環境的 Mac 開發者。
也適合負責 Ollama 服務化執行、希望把臨時命令固化成可回滾設定的 AI Agent 工程師,以及壓力測試仍無法通過、需要評估遠端算力的技術負責人。

提醒:截至 2026 年 9 月 8 日,Ollama 發布頁將 v0.33.3 標示為最新穩定版,v0.34.0-rc1 屬於預發布版本。這不代表舊版 v0.8 的問題可以直接套用到目前版本;版本、後端與模型標籤必須一併記錄。資料核實自 Ollama 官方發布頁。

第一個五分鐘:先保留現場,再談恢復

故障剛出現時,目標不是立刻找出「記憶體洩漏」的結論,而是建立一個能重播、能比較的恢復基線。先記下以下項目:

  • ollama version 的客戶端與伺服器版本。
  • macOS 版本、Mac 型號及 Apple Silicon 晶片資訊。
  • DeepSeek-R1 的實際模型標籤,並對照 Ollama 的 DeepSeek-R1 標籤清單。
  • Ollama 是由桌面應用啟動,還是由 Shell、LaunchAgent 或其他服務啟動。
  • 最後一次請求的上下文設定、並發狀態、提示詞長度與 keep_alive 值。
  • ollama ps 輸出、Ollama 服務日誌,以及「活動監視器」的記憶體壓力和交換活動。

若服務仍能回應,只發送一次最短測試請求,確認是內容生成失敗,還是 Runner 已無法工作。不要連續重試。失敗請求可能排隊,並發數也可能讓本來的容量問題看起來像新的洩漏。

這一步不需要立即區分統一記憶體物理不足、KV Cache 沒有及時回收,還是特定版本的 Metal OOM。先保存證據,才能在後面每次只改一項設定。

第一次恢復:卸載模型優先於完整重啟

先嘗試用一次性 API 請求卸載模型:

curl http://localhost:11434/api/generate \
  -d '{"model":"deepseek-r1:latest","keep_alive":0}'

deepseek-r1:latest 只是一個示例,必須換成先前由 ollama ps 記錄的實際標籤。Ollama API 的 keep_alive 用來控制模型在記憶體中的駐留時間,欄位定義可參考 官方 API 型別說明。

卸載後再次執行:

ollama ps

若模型已離開清單,先用短提示詞進行一次單請求測試。驗收條件很簡單:Runner 能重新載入、回應非空、日誌沒有新增 Metal 後端錯誤。

桌面應用與命令列服務要分開處理。若 Ollama 由 macOS 應用啟動,退出應用後從「應用程式」重新開啟;若由終端機執行,則停止原本的服務程序,再以同一個 Shell 啟動方式重開。不要一邊重開桌面應用,一邊保留另一個終端機服務,否則後續環境變數可能套用到錯誤的程序。

若卸載沒有作用、Runner 卡死,或日誌持續出現後端錯誤,才完整退出並重啟 Ollama。重啟後仍不要直接執行原始長任務。先完成短請求,否則服務可能在失敗隊列與新請求疊加時再次中斷。

半小時止血:上下文、並發與駐留時間逐項收緊

先縮短上下文,再限制同時工作量

對 DeepSeek-R1 而言,上下文長度會影響需要保留的 KV Cache;並發請求與同時載入的模型則會把需求進一步放大。Ollama 的上下文設定方式以 官方 Context Length 文件 為準,不應把社群貼文中的任意數值當成通用安全值。

止血順序如下:

  1. 將上下文降至業務仍可接受的短基線。
  2. 把並發請求降至單任務。
  3. 將同時載入模型數量降至只保留 DeepSeek-R1。
  4. 縮短模型駐留時間,讓閒置權重與快取有機會回收。
  5. 以同一個短提示詞確認輸出仍然完整。

並發與模型數量可先以環境變數控制,例如:

export OLLAMA_NUM_PARALLEL=1
export OLLAMA_MAX_LOADED_MODELS=1
export OLLAMA_KEEP_ALIVE=5m

這些設定只對「由目前 Shell 啟動」的服務有效。5m 是駐留時間格式示例,不是所有硬體都適用的最佳值;縮短駐留時間會增加下一次請求的冷啟動成本。完成測試後,可用:

unset OLLAMA_NUM_PARALLEL
unset OLLAMA_MAX_LOADED_MODELS
unset OLLAMA_KEEP_ALIVE

撤銷目前 Shell 的臨時設定。若變更後沒有任何效果,先檢查實際服務是否由另一個啟動方式執行。

Flash Attention 與 KV Cache:最後才測,並且保留對照

Flash Attention 和 KV Cache 類型是可配置項,但「可配置」不等於在每個 Ollama 版本、後端與模型組合中都穩定。只有在官方文件確認目前版本支援後,才逐一測試。不要同時打開兩項,也不要把節省幅度或效能變化寫成固定結果。

每次測試都保留:

  • 原始短提示詞及完整輸出。
  • 輸出是否為空、是否截斷或出現異常重複。
  • 請求成功率與 Metal 錯誤日誌。
  • 記憶體壓力、交換活動,以及卸載模型後的回落狀態。

若輸出品質變差,先撤銷最近一項設定,再重啟同一套 Ollama 服務。這比繼續疊加參數更容易找出真正的觸發條件。

當天固化:讓設定跨重啟生效,也能完整撤銷

臨時 Shell 啟動

適合快速驗證,不適合團隊服務。設定前先查看:

printenv | grep '^OLLAMA_'

用同一個終端機啟動 Ollama,完成測試後以 unset 撤銷。關閉該終端機後,設定不會自然延伸到桌面應用或其他服務。

macOS 應用或 LaunchAgent 啟動

若 Ollama 由 macOS 啟動,必須把環境變數交給啟動該程序的 launchctl 工作階段,而不是只修改目前 Shell。可先檢查:

launchctl getenv OLLAMA_CONTEXT_LENGTH
launchctl getenv OLLAMA_NUM_PARALLEL
launchctl getenv OLLAMA_MAX_LOADED_MODELS

寫入後,完整退出 Ollama,再重新開啟應用;不要只關閉視窗。重啟後再次用 launchctl getenv 與短請求驗證。撤銷時使用:

launchctl unsetenv OLLAMA_CONTEXT_LENGTH
launchctl unsetenv OLLAMA_NUM_PARALLEL
launchctl unsetenv OLLAMA_MAX_LOADED_MODELS

若目前 Ollama 版本的啟動方式或官方文件有變動,應先按 Ollama 故障排查文件確認服務程序,再修改設定。不要盲目建立來源不明的 plist。

單次 API 請求

只想驗證某個上下文或模型選項時,將設定放在請求的 options 或相關 API 欄位內。這種方法只影響該請求,不會改變下一次請求,也不會改寫桌面應用的全域環境。

這三種範圍不能混為一談:Shell 變數、launchctl 環境與 API 單次參數,必須分別記錄「查看、重啟、撤銷」方法。需要整理 macOS 服務登入與啟動細節時,可參考 ProxyMac 的繁體中文支援指南。

接下來二十四小時:用遞增負載做回滾驗收

不要在一次測試中同時恢復所有原始設定。應按以下階段執行,每一階段只改一項:

  • [ ] 使用短上下文、單請求、單一 DeepSeek-R1 模型,確認能穩定輸出。
  • [ ] 保留該階段的 ollama ps、日誌、記憶體壓力與交換活動紀錄。
  • [ ] 只增加上下文,完成數次相同請求後再觀察。
  • [ ] 恢復連續請求,確認模型卸載後記憶體是否回落。
  • [ ] 只增加並發,記錄成功率、空輸出與 Metal 錯誤。
  • [ ] 最後才測試 Flash Attention 或 KV Cache 類型。
  • [ ] 將穩定基線與原始故障配置並排保存。
  • [ ] 任一階段重現故障,立即退回上一個通過階段。

Apple Silicon 使用統一記憶體架構,CPU 與 GPU 會共享同一記憶體池;Apple 的 Metal 統一記憶體說明可作為判斷背景。因此,活動監視器看到的壓力、交換活動與模型卸載後回落,應與 Metal 日誌一起解讀。不能只看某一個程序的記憶體數字,就斷定一定是洩漏。

FAQ:恢復與設定的四個關鍵判斷

DeepSeek-R1 在 Mac 上跑了一段時間後崩潰,應該怎樣恢復?

先保存 Ollama 日誌、ollama ps、最後一次請求參數與記憶體壓力狀態,再用 keep_alive 設為零卸載模型。若 Runner 沒有回復,才退出並重新啟動 Ollama。恢復後先用短上下文、單一請求測試,不要立即重播原本的長任務或並發工作。

Ollama 的記憶體一直釋放不掉,是否一定要重啟程序?

不一定。先嘗試卸載模型,觀察模型程序與記憶體壓力是否回落;只有 Runner 卡死、後端持續報錯或卸載沒有作用時,才完整重啟 Ollama。重啟前應保留日誌,否則會失去判斷版本問題、配置問題或物理容量不足的線索。

Mac 版 Ollama 怎樣永久設定上下文和並發限制?

服務化執行時,可透過 OLLAMA_CONTEXT_LENGTH、OLLAMA_NUM_PARALLEL 與 OLLAMA_MAX_LOADED_MODELS 設定基線,再用 launchctl 讓 macOS 啟動的 Ollama 繼承環境變數。若只是單次 API 請求,應在請求中設定 options;兩者作用範圍不同,不能只改 Shell 卻期待桌面應用同步變更。

調整 KV Cache 後,怎樣確認 DeepSeek-R1 仍能穩定輸出?

先保留未調整時的短提示詞與輸出作為對照,每次只改一個 KV Cache 或 Flash Attention 選項。連續觀察輸出是否為空、請求是否成功、Metal 錯誤、記憶體壓力及模型卸載後的回落;任何一項退化,都回滾到上一個通過階段。

再次溢出:版本回滾、縮小模型,還是轉移算力

若舊版 Ollama 正常,而新版在相同模型標籤、相同上下文與相同請求下穩定重現,應保留最小重現資料,再評估回滾 Ollama。GitHub Issue 中的 Metal OOM、GPU 重置後 Runner 卡死或記憶體持續增長,屬於具體版本的使用者報告,不代表所有 DeepSeek-R1 或 Apple Silicon 環境都會復現。

若模型權重、最低可接受上下文與單請求基線仍無法穩定裝入,選項只剩兩類:

  • 改用較小的量化版本,接受輸出品質、推理速度或上下文能力的取捨。
  • 將相同驗收腳本移到更大統一記憶體的遠端 Mac,測試長上下文、批次工作與 AI Agent 長任務。

第二類決策不應只看一次成功。需要把短請求、連續請求、模型卸載、並發恢復與錯誤日誌都跑完,再判斷是否適合長期遷移。若要先核對遠端 Mac 的交付與使用方式,可先查看 ProxyMac 的服務說明;它不能取代壓力測試,但能協助整理本機與雲端環境的驗收邊界。

本機方案的優點是連線延遲低、資料留在現場、短任務成本容易控制;缺點是統一記憶體容量固定,長上下文與並發會互相爭用,故障時還要自行處理程序、版本與重啟。臨時雲端方案則有網路延遲、資料傳輸與按使用時間計費等代價,但對週期性長上下文、批次推理和 Agent 壓力測試,更容易先驗證容量是否足夠。

完成二十四小時回滾驗收後,若最低可用參數仍無法穩定通過,繼續修改未經官方確認的 macOS 內核參數、交換空間腳本或來源不明的限制覆寫,通常只會讓故障更難重現。此時以同一套壓力測試清單評估 ProxyMac 的遠端 Mac 環境,會比反覆重啟本機更容易得到可交付的容量結論。

本機記憶體不足?改用 ProxyMac 專屬遠端 Mac

以獨享 Apple Silicon M4 實體機承接模型推理與長時間運算,減少本機記憶體壓力與程序中斷。
ProxyMac 提供 SSH、瀏覽器及 VNC 遠端桌面連線,無需更換現有電腦即可彈性測試 macOS 工作環境。