2026 DeepSeek-R1 맥 메모리 초과: Ollama 안전 응급 조치 단계

2026년 9월 8일 기준 Ollama 공식 릴리스 목록에는 안정판 v0.33.3과 시험판 v0.34.0-rc1이 함께 표시됩니다. 따라서 DeepSeek-R1 맥 메모리 초과의 승자는 먼저 모델을 언로드하거나 Ollama를 재시작한 뒤, 컨텍스트·동시성·상주 시간을 순서대로 줄이는 방법입니다. Flash Attention과 KV Cache 조정은 기준선 시험을 통과한 뒤에만 진행해야 합니다. 그래도 최소 업무 설정이 안정적으로 실행되지 않으면 출처가 불분명한 커널 설정 대신 더 큰 통합 메모리를 갖춘 원격 맥으로 옮기는 편이 안전합니다.
이 글은 다음 독자를 위한 안내입니다.
- DeepSeek-R1 추론이 중단되어 30분 안에 로컬 개발 환경을 복구해야 하는 맥 개발자
- Ollama를 서비스로 운영하며 임시 명령을 되돌릴 수 있는 설정으로 고정하려는 AI Agent 엔지니어
- 설정을 낮춰도 부하 시험을 통과하지 못해 원격 맥 확장을 판단해야 하는 기술 책임자
먼저 확인할 기준과 복구 순서
DeepSeek-R1 맥 메모리 초과가 발생하면 재시작부터 반복하지 말아야 합니다. 먼저 현재 조건을 남겨야 합니다. 그래야 실제 메모리 부족인지, Metal 실행기 문제인지, 특정 버전의 사용자 보고와 유사한지 구분할 수 있습니다.
다음 항목을 별도 텍스트 파일에 기록합니다.
date
ollama --version
ollama ps
uname -a
sw_vers
함께 기록할 값은 다음과 같습니다.
- 사용한 DeepSeek-R1 태그
- Ollama를 맥 앱으로 실행했는지, 터미널 서비스로 실행했는지
- 마지막 요청의
num_ctx,keep_alive, 스트리밍 여부 - 동시에 실행한 모델 수와 요청 수
- 활동 모니터의 메모리 압력, 스왑 사용량, Ollama 프로세스 상태
- 오류 직전 로그의 Metal 또는 실행기 관련 문장
현재 서비스가 응답하는지만 짧게 확인합니다. 이 단계에서는 실패한 요청을 계속 보내지 않습니다. 실패 큐가 쌓이면 새 메모리 문제처럼 보일 수 있습니다.
GitHub Issue에 보고된 Metal OOM이나 실행기 정지, 메모리 증가 사례는 모든 Apple Silicon 환경에서 확인된 결함이 아닙니다. 특정 버전과 조합의 사용자 보고로 취급해야 합니다. Ollama 공식 문제 해결 문서도 로그를 먼저 확인한 뒤 원인을 좁히는 흐름을 안내합니다.
주의: v0.8 시절의 메모리 누수 사례를 현재 v0.33.3의 확정 결함으로 단정하면 안 됩니다. 현재 버전과 모델 태그를 먼저 남기고 재현 조건을 고정해야 합니다.
첫 5분: 모델 언로드와 Ollama 재시작 비교
모델만 먼저 내리는 경우
Ollama API가 살아 있다면 모델 전체를 종료하기보다 keep_alive를 0으로 설정해 실행기를 내립니다.
curl http://127.0.0.1:11434/api/generate \
-d '{"model":"deepseek-r1:latest","prompt":"","keep_alive":0}'
이 명령은 터미널 서비스와 맥 앱이 같은 기본 API 주소를 사용할 때 적용됩니다. 실제 태그는 앞서 기록한 값으로 바꿉니다. 모델명이 다르면 DeepSeek-R1 공식 태그 목록에서 현재 태그를 확인합니다.
그다음 다음을 실행합니다.
ollama ps
모델이 목록에서 사라지고 새 요청이 가능한지 확인합니다. 가장 짧은 테스트 문장을 한 번만 보냅니다. 응답이 비어 있지 않고, 예상한 처리기가 선택되며, 로그에 같은 Metal 오류가 반복되지 않아야 합니다.
프로세스 전체를 다시 시작하는 경우
keep_alive 요청이 응답하지 않거나 실행기가 계속 오류 상태라면 전체 재시작으로 넘어갑니다.
터미널에서 실행한 서비스라면 실행 중인 터미널에서 Ctrl+C를 누른 뒤 다음처럼 다시 시작합니다.
ollama serve
맥 앱이라면 메뉴 막대의 Ollama를 종료한 뒤 응용 프로그램에서 다시 엽니다. 두 방식을 섞으면 환경 변수가 적용되지 않은 별도 프로세스가 올라올 수 있습니다. 재시작 직후에는 다음 순서로 확인합니다.
ollama --version
ollama ps
curl http://127.0.0.1:11434/api/tags
ollama --version이 기록한 버전과 같아야 합니다. 짧은 요청에서 실행기가 다시 만들어지고 응답이 정상이라면 다음 단계로 이동합니다. 같은 오류가 반복되면 추가 요청을 중단하고 로그를 보존합니다.
30분 안에 줄일 설정과 유지할 설정
Ollama 메모리 사용량은 모델 무게만으로 결정되지 않습니다. 긴 컨텍스트는 KV Cache를 키우고, 동시 요청은 요청별 작업 공간을 늘립니다. 여러 모델을 동시에 상주시키면 유휴 가중치도 메모리를 점유합니다. 상주 시간을 길게 잡으면 다음 요청은 빨라질 수 있지만 회수 시점이 늦어집니다.
권장 순서는 다음과 같습니다.
- 컨텍스트 길이를 먼저 낮춥니다.
- 동시 요청을 한 건으로 제한합니다.
- 동시에 로드되는 모델 수를 한 개로 줄입니다.
- 유휴 모델의 상주 시간을 짧게 설정합니다.
- 기준선이 안정된 뒤 Flash Attention과 KV Cache 유형을 한 번에 하나씩 시험합니다.
| 조정 항목 | 먼저 적용할 방향 | 얻는 효과 | 감수할 손실 |
|---|---|---|---|
| 컨텍스트 길이 | 업무에 필요한 최저값부터 시작 | KV Cache 증가 억제 | 긴 문서 처리 범위 감소 |
| 동시성 | 단일 요청 기준으로 고정 | 순간 메모리 급증 완화 | 처리량 감소 |
| 동시 로드 모델 수 | 한 모델만 유지 | 유휴 가중치 점유 감소 | 모델 전환 시 재로딩 |
| 모델 상주 시간 | 짧은 값으로 설정 | 유휴 메모리 회수 기회 증가 | 콜드 스타트 증가 |
| Flash Attention | 공식 지원 범위에서만 시험 | backend별 메모리 동작 변화 확인 | 출력·호환성 재검증 필요 |
| KV Cache 유형 | 한 설정씩 비교 | 캐시 메모리와 출력 안정성 비교 | 품질 차이 가능성 |
컨텍스트 길이 설정은 Ollama 공식 컨텍스트 문서의 환경 변수와 실행 방식을 기준으로 합니다. Flash Attention과 KV Cache는 버전과 backend에 따라 동작이 달라질 수 있으므로, 문서에서 지원 여부를 확인하지 못한 상태로 값을 넣지 않습니다.
API 요청만 제한하려면 다음처럼 적용합니다.
curl http://127.0.0.1:11434/api/generate \
-d '{
"model": "deepseek-r1:latest",
"prompt": "짧은 상태 확인 문장을 출력합니다.",
"options": {
"num_ctx": 4096
},
"keep_alive": 0
}'
4096은 특정 하드웨어의 정답값이 아니라 예시 시작점입니다. 실제 최저 업무 컨텍스트는 원래 요청에 필요한 문서 길이와 출력 길이로 정해야 합니다. API 필드 형식은 Ollama API 타입 정의를 확인합니다.
경험칙: 컨텍스트를 낮춘 뒤에도 요청이 계속 실패한다면 즉시 KV Cache를 더 줄이지 않습니다. 단일 요청, 짧은 프롬프트, 짧은 상주 시간으로 실행기가 회수되는지 먼저 확인해야 합니다.
Ollama 환경 변수는 실행 방식에 맞춰 고정합니다
터미널에서 임시로 실행하는 경우
현재 셸에서만 설정하려면 다음과 같이 입력합니다.
export OLLAMA_CONTEXT_LENGTH=4096
export OLLAMA_NUM_PARALLEL=1
export OLLAMA_MAX_LOADED_MODELS=1
export OLLAMA_KEEP_ALIVE=5m
ollama serve
이 값은 해당 셸에서 시작한 ollama serve에만 적용됩니다. 새 터미널을 열거나 맥 앱을 실행하면 자동으로 이어지지 않습니다. 확인 방법은 다음과 같습니다.
printenv OLLAMA_CONTEXT_LENGTH
printenv OLLAMA_NUM_PARALLEL
printenv OLLAMA_MAX_LOADED_MODELS
printenv OLLAMA_KEEP_ALIVE
되돌릴 때는 다음 명령을 사용합니다.
unset OLLAMA_CONTEXT_LENGTH
unset OLLAMA_NUM_PARALLEL
unset OLLAMA_MAX_LOADED_MODELS
unset OLLAMA_KEEP_ALIVE
이후 실행 중인 ollama serve를 종료하고 다시 시작해야 변경 또는 철회가 반영됩니다.
맥 앱으로 실행하는 경우
맥 앱 프로세스에 환경 변수를 전달해야 한다면 launchctl에 설정한 뒤 앱을 완전히 종료하고 다시 엽니다.
launchctl setenv OLLAMA_CONTEXT_LENGTH 4096
launchctl setenv OLLAMA_NUM_PARALLEL 1
launchctl setenv OLLAMA_MAX_LOADED_MODELS 1
launchctl setenv OLLAMA_KEEP_ALIVE 5m
설정 확인은 다음처럼 합니다.
launchctl getenv OLLAMA_CONTEXT_LENGTH
launchctl getenv OLLAMA_NUM_PARALLEL
launchctl getenv OLLAMA_MAX_LOADED_MODELS
launchctl getenv OLLAMA_KEEP_ALIVE
Ollama 맥 앱을 종료한 뒤 다시 열어야 합니다. 이미 떠 있는 프로세스에는 새 값이 소급되지 않습니다. 되돌릴 때는 다음을 실행하고 앱을 재시작합니다.
launchctl unsetenv OLLAMA_CONTEXT_LENGTH
launchctl unsetenv OLLAMA_NUM_PARALLEL
launchctl unsetenv OLLAMA_MAX_LOADED_MODELS
launchctl unsetenv OLLAMA_KEEP_ALIVE
Ollama의 환경 변수 적용 범위와 맥 실행 방식은 공식 자주 묻는 질문 문서를 기준으로 확인합니다. 값을 설정했는데 효과가 없다면 변수 이름보다 먼저 “어느 프로세스를 재시작했는가”를 확인해야 합니다.
| 실행 방식 | 설정 적용 범위 | 적용 확인 | 철회 방법 |
|---|---|---|---|
셸의 export |
해당 셸에서 시작한 서비스 | printenv |
unset 후 서비스 재시작 |
launchctl setenv |
이후 시작하는 맥 앱 프로세스 | launchctl getenv |
launchctl unsetenv 후 앱 재시작 |
| API 요청 옵션 | 해당 요청 한 건 | 요청 JSON과 응답 로그 | 다음 요청에서 옵션 제거 |
| 설정 파일 또는 프로필 | 배포 방식에 따라 다름 | 실제 시작 프로세스 확인 | 원래 값 복원 후 재시작 |
출처가 불명확한 sysctl 명령, 스왑 공간 자동 조정 스크립트, macOS 커널 제한 덮어쓰기는 일반적인 Metal OOM 복구책으로 사용하지 않습니다. Apple Silicon은 CPU와 GPU가 통합 메모리를 공유하므로 Apple의 통합 메모리 설명처럼 GPU만 따로 떼어 충분한 공간이 있다고 판단할 수 없습니다. 하지만 이 사실만으로 모든 오류를 물리적 메모리 부족이라고 단정해서도 안 됩니다.
24시간 동안 단계별로 되돌려 검증합니다
설정 변경 후 바로 원래 업무 부하를 재현하면 원인을 찾기 어렵습니다. 다음 체크리스트를 한 단계씩 실행합니다.
- [ ] 현재 Ollama 버전과 DeepSeek-R1 태그를 다시 기록합니다.
- [ ] 짧은 프롬프트와 단일 요청으로 응답이 비어 있지 않은지 확인합니다.
- [ ] 컨텍스트 제한만 올리고 다른 값은 그대로 둡니다.
- [ ] 각 단계에서 메모리 압력과 스왑 활동을 기록합니다.
- [ ] 모델을
keep_alive: 0으로 내린 뒤 메모리 사용량이 내려가는지 확인합니다. - [ ] 연속 요청을 추가하되 동시성은 한 건으로 유지합니다.
- [ ] 동시 요청을 늘리기 전에 같은 프롬프트의 출력 품질을 비교합니다.
- [ ] Flash Attention을 시험할 때 이전 기준선과 별도 로그를 남깁니다.
- [ ] KV Cache 유형을 바꿀 때 한 번에 한 값만 비교합니다.
- [ ] 오류가 재현되면 직전 통과 단계로 즉시 되돌립니다.
- [ ] 통과한 설정과 최초 실패 설정을 나란히 보관합니다.
확인할 지표는 요청 성공 여부만이 아닙니다. 출력이 비어 있는지, 처리기가 계속 같은 오류를 내는지, 모델 언로드 뒤 메모리가 내려가는지, 스왑 활동이 급증하는지 함께 봅니다. Metal OOM 문구가 사라졌더라도 긴 요청에서 출력이 중단되면 아직 안정 기준을 통과한 것이 아닙니다.
다시 실패하면 버전·모델·원격 맥을 비교합니다
새 버전에서만 같은 최소 재현이 반복되고 이전 버전에서는 정상이라면, 먼저 재현 기록을 보존합니다. 현재 안정판은 v0.33.3으로 표시되고 시험판 v0.34.0-rc1은 별도 상태이므로, 시험판을 안정판과 같은 기준으로 취급하지 않습니다. 버전 변경은 Ollama 릴리스 기록과 관련 Issue의 유지 관리자 답변, 수정 커밋을 함께 확인한 뒤 결정합니다.
판단 순서는 다음과 같습니다.
- 모델 태그를 바꿔 최소 컨텍스트에서 안정성을 확인합니다.
- 더 작은 양자화 모델이 업무의 최소 출력 품질을 충족하는지 시험합니다.
- 모델 무게, 최저 컨텍스트, 단일 요청 조건에서도 실패하면 물리적 용량 한계를 의심합니다.
- 장시간 에이전트 실행, 배치 처리, 긴 문서 입력이라면 같은 시험 스크립트를 원격 맥에서 반복합니다.
- 원격 환경에서도 같은 태그와 프롬프트를 사용해 결과를 비교합니다.
Apple Silicon의 통합 메모리는 CPU와 GPU가 공유하므로, 단순히 “GPU 메모리만 남아 있다”는 식의 판단은 위험합니다. 반대로 한 번의 Metal 오류만으로 맥 전체가 부족하다고 판단하는 것도 이릅니다. 모델 언로드 뒤 메모리가 회복되는지, 짧은 기준선이 통과하는지, 최소 업무 컨텍스트에서 연속 요청이 유지되는지를 함께 봐야 합니다.
현재 로컬 방식은 물리 메모리와 GPU·CPU 공유 자원을 동시에 감당해야 하고, Ollama 앱과 터미널 서비스가 혼재하면 설정 적용 범위도 흔들립니다. 긴 컨텍스트와 에이전트 병렬 작업에서는 콜드 스타트, 스왑, 실행기 재시작이 업무 중단으로 이어질 수 있습니다. 이런 조건에서 계속 커널 파라미터를 덧대는 것보다, ProxyMac의 원격 맥 환경에서 같은 복구 명령과 부하 시험을 먼저 반복하는 편이 실제 용량 판단에 유리합니다.
먼저 ProxyMac의 맥 환경 안내에서 접속 방식과 운영 조건을 확인하고, 필요한 경우 원격 맥 이용 요금 정보를 비교하면 됩니다. 단, 장기간 고정 부하가 계속되거나 물리 포트와 로컬 데이터 접근이 필수라면 자가 구매가 더 적합할 수 있습니다. 반대로 임시 검증, 모델 교체 시험, 팀의 원격 부하 재현이 목적이라면 렌탈 방식이 불안정한 로컬 설정을 계속 붙잡는 것보다 빠르게 다음 결정을 내릴 수 있습니다.