2026 Débordement de mémoire de DeepSeek-R1 sur Mac : étapes de mise à l’arrêt sûre d’Ollama

Le processus Ollama se termine pendant une réponse DeepSeek-R1, le modèle reste chargé et la mémoire ne redescend plus.
Le gagnant est la récupération progressive : déchargez d’abord le modèle, redémarrez Ollama seulement si nécessaire, puis réduisez dans cet ordre le contexte, la concurrence et le temps de conservation. Ne testez Flash Attention ou la quantification du KV Cache qu’après une base stable. Si le poids du modèle et le contexte minimal du service ne tiennent toujours pas, passez à un Mac distant doté de davantage de mémoire unifiée plutôt que de modifier des paramètres noyau non confirmés.
Cet article s’adresse :
- aux développeurs Mac qui doivent rétablir une exécution DeepSeek-R1 interrompue ;
- aux ingénieurs d’agents IA qui font fonctionner Ollama comme service et veulent des réglages persistants mais réversibles ;
- aux responsables techniques qui ont déjà réduit les paramètres et doivent décider entre une version antérieure, une quantification plus petite ou un environnement distant.
Dernière mise à jour : 8 septembre 2026. Les versions et les réglages ont été vérifiés à partir des versions publiées par Ollama, de la FAQ officielle et de la documentation Apple sur la mémoire unifiée.
Les premières minutes : établir une base exploitable
Après un arrêt, le redémarrage immédiat est tentant. Il détruit pourtant les éléments qui permettent de comparer la configuration fautive avec la configuration réparée. Avant toute modification, copiez les informations suivantes dans un fichier de diagnostic :
ollama --version
ollama ps
uname -a
Notez aussi la version de macOS, le nom exact du modèle DeepSeek-R1 utilisé, son étiquette de quantification, le mode de lancement d’Ollama et les paramètres de la dernière requête. Le nom visible dans ollama ps doit être repris tel quel dans les commandes suivantes. La liste officielle des étiquettes DeepSeek-R1 évite de confondre plusieurs variantes portant un nom proche.
Conservez les journaux produits par le mode de lancement utilisé. Pour l’application macOS, consultez les messages du processus dans Console ou avec le journal système. Pour un service démarré dans un terminal, copiez la sortie de ce terminal. Ajoutez une capture de la pression mémoire dans le Moniteur d’activité et notez si l’échange disque augmente.
Cette collecte ne sert pas encore à conclure à une fuite. Une mémoire unifiée saturée, un cache de contexte qui reste actif, une file de requêtes et un moteur Metal bloqué peuvent produire des symptômes voisins. Le but immédiat est plus limité : savoir si le service répond encore et pouvoir comparer avant et après.
Les versions doivent également être consignées. Au 8 septembre 2026, la page des versions d’Ollama marque v0.33.3 comme version stable et v0.34.0-rc1 comme préversion ; une ancienne référence à v0.8 décrit donc un contexte historique, pas une anomalie actuellement confirmée. Une version récente n’implique pas pour autant que chaque rapport d’erreur Metal lui soit attribuable.
La première récupération : décharger avant de relancer
Déchargement du modèle encore accessible
Si l’API répond, commencez par demander le déchargement du modèle. L’API officielle accepte keep_alive: 0, ce qui limite la portée de l’action au modèle concerné :
curl http://127.0.0.1:11434/api/generate \
-H 'Content-Type: application/json' \
-d '{"model":"deepseek-r1:8b","prompt":"","keep_alive":0}'
Remplacez deepseek-r1:8b par l’étiquette réellement observée. Cette commande ne constitue pas un test de génération ; elle demande la fin du maintien en mémoire. Vérifiez ensuite :
ollama ps
Si le modèle n’est plus chargé, lancez une requête très courte. Une réponse non vide et une attribution cohérente au processeur attendu indiquent que le moteur a pu recréer son exécuteur. Les champs et options de l’API peuvent être contrôlés dans la définition officielle des types API.
Redémarrage selon le mode de service
Le redémarrage ne doit pas être identique dans tous les cas.
- Application macOS : quittez l’application depuis son menu, attendez la disparition du processus, puis relancez-la. Si l’environnement a été défini avec
launchctl, ces variables doivent être appliquées avant ce nouveau lancement. - Service en ligne de commande : arrêtez le processus
ollama servedans le terminal qui l’exécute, puis relancez la commande dans le même environnement. Ne lancez pas une seconde instance sur le même port. - Service géré par un script : arrêtez le gestionnaire prévu par ce script et utilisez exactement la même commande de démarrage lors de la reprise. Un changement de mode peut donner l’impression qu’une variable a été ignorée.
Après la reprise, effectuez une seule génération courte. Si le journal affiche encore une erreur persistante du moteur ou si les requêtes s’empilent, interrompez les essais. Une file de requêtes qui grossit peut amplifier la pression mémoire et brouiller le diagnostic d’une fuite supposée. La procédure officielle de dépannage d’Ollama sert alors de référence pour les journaux et le mode de lancement.
La première demi-heure : réduire les amplificateurs
Une fois le service redevenu joignable, la priorité n’est pas d’obtenir immédiatement la qualité habituelle. Il faut créer une base qui ne s’effondre pas. Les paramètres doivent être resserrés dans un ordre qui limite le risque.
Contexte avant concurrence
Réduisez d’abord la longueur de contexte. Le contexte demandé influence la mémoire nécessaire au traitement et au cache associé ; la documentation Ollama sur la longueur de contexte décrit les mécanismes de réglage disponibles. Pour un essai ponctuel, utilisez l’option API appropriée, par exemple num_ctx, sans modifier encore l’environnement global.
Ensuite, ramenez la concurrence à une seule requête et limitez le nombre de modèles chargés simultanément à la base nécessaire au test. Un agent qui lance plusieurs appels parallèles tout en conservant plusieurs modèles en mémoire ne fournit pas une bonne base de récupération. Il faut d’abord isoler un appel DeepSeek-R1.
Le nombre de requêtes parallèles et le nombre de modèles conservés sont des multiplicateurs de charge, pas des correctifs de mémoire. Une configuration stable avec un seul appel peut échouer dès qu’un orchestrateur ouvre plusieurs tâches. Le test doit donc distinguer la stabilité du modèle seul de la stabilité du service complet.
Temps de conservation contre démarrage à froid
Réduisez ensuite la durée pendant laquelle le modèle reste chargé après une requête. Une durée de conservation courte permet à Ollama de libérer les poids et les caches lorsque le service devient inactif. En contrepartie, la prochaine requête devra recharger le modèle, ce qui allonge le démarrage et peut provoquer un nouvel accès important à la mémoire.
Le réglage doit donc être adapté au but recherché :
- pour un diagnostic, choisissez une conservation courte et observez la pression mémoire après l’inactivité ;
- pour un agent interactif, réintroduisez progressivement une durée plus longue seulement après validation ;
- pour une tâche vidéo, audio ou de design qui alterne génération et traitement de fichiers, évitez de conserver inutilement un modèle pendant les phases lourdes de production.
Les systèmes Apple Silicon utilisent une mémoire unifiée partagée par le processeur et les autres unités de calcul. La documentation Apple sur hasUnifiedMemory confirme cette architecture. Cela ne signifie pas que chaque erreur Metal est une pénurie physique : un exécuteur peut aussi rester dans un état dégradé ou conserver des allocations qui ne reviennent pas immédiatement au système.
Flash Attention et KV Cache après la stabilisation
Flash Attention et le type de KV Cache doivent rester des essais secondaires. Leur disponibilité et leur comportement dépendent de la version d’Ollama et du moteur utilisé. Consultez d’abord la FAQ officielle et les documents de configuration, puis activez un seul changement à la fois.
Avant de modifier le KV Cache, conservez un échantillon de sortie de référence. Le contrôle porte sur quatre points :
- la réponse n’est pas vide et respecte le format attendu ;
- le modèle conserve le même comportement sur une consigne courte ;
- la réponse reste acceptable au contexte cible ;
- la pression mémoire et les erreurs Metal ne réapparaissent pas pendant une séquence continue.
Une amélioration de la consommation qui dégrade les sorties n’est pas une validation. De même, une génération réussie ne suffit pas si le modèle reste bloqué en mémoire après déchargement.
La configuration persistante : même lancement, mêmes variables
Les variables ne s’appliquent qu’au processus qui les reçoit. C’est l’erreur la plus fréquente lorsqu’un terminal est configuré alors que l’application macOS démarre une autre instance.
Essai temporaire dans un shell
Pour une vérification limitée au terminal courant :
export OLLAMA_CONTEXT_LENGTH=4096
export OLLAMA_NUM_PARALLEL=1
export OLLAMA_MAX_LOADED_MODELS=1
export OLLAMA_KEEP_ALIVE=0
ollama serve
Les valeurs ci-dessus sont un exemple de base de test, pas une prescription universelle. La valeur du contexte doit être compatible avec le service attendu et avec la mémoire disponible. Vérifiez le shell avant le lancement :
printf '%s\n' \
"$OLLAMA_CONTEXT_LENGTH" \
"$OLLAMA_NUM_PARALLEL" \
"$OLLAMA_MAX_LOADED_MODELS" \
"$OLLAMA_KEEP_ALIVE"
Pour annuler ce réglage dans le terminal :
unset OLLAMA_CONTEXT_LENGTH OLLAMA_NUM_PARALLEL \
OLLAMA_MAX_LOADED_MODELS OLLAMA_KEEP_ALIVE
Cette méthode est réversible et utile pour une comparaison. Elle ne modifie pas le lancement de l’application macOS.
Application macOS et launchctl
Lorsque l’application est la méthode retenue, définissez les variables dans l’environnement du processus lancé par macOS :
launchctl setenv OLLAMA_CONTEXT_LENGTH 4096
launchctl setenv OLLAMA_NUM_PARALLEL 1
launchctl setenv OLLAMA_MAX_LOADED_MODELS 1
launchctl setenv OLLAMA_KEEP_ALIVE 0
Quittez ensuite complètement Ollama et relancez l’application. Contrôlez le comportement avec ollama ps, une requête courte et les journaux. Si l’application était déjà ouverte, modifier l’environnement ne transforme pas rétroactivement son processus.
Pour retirer ces variables de l’environnement de lancement :
launchctl unsetenv OLLAMA_CONTEXT_LENGTH
launchctl unsetenv OLLAMA_NUM_PARALLEL
launchctl unsetenv OLLAMA_MAX_LOADED_MODELS
launchctl unsetenv OLLAMA_KEEP_ALIVE
Relancez encore l’application après le retrait. Si une autre méthode de démarrage impose ces valeurs, supprimez-les aussi dans le fichier ou le script concerné. Il faut éviter de conserver une variable cachée dans un ancien terminal, un script de connexion ou un lanceur distinct.
Paramètre limité à une requête API
Pour un seul appel, préférez les options du corps de requête. Cette portée convient lorsqu’un agent doit appliquer un contexte réduit sans affecter les autres utilisateurs du service. Elle permet aussi de comparer deux scénarios avec le même processus Ollama.
Le principe est simple : une variable globale doit être validée avec le même lancement que la production ; une option API doit être vérifiée dans la requête reçue par le serveur. Si les deux approches sont mélangées, la comparaison perd sa valeur.
La journée suivante : validation par paliers
Une configuration réparée doit survivre à une remontée progressive de charge. Le test ne doit pas réintroduire simultanément le long contexte, les appels concurrents et la conservation prolongée.
- [ ] Conserver la version Ollama, la version macOS, l’étiquette DeepSeek-R1 et le mode de lancement.
- [ ] Vérifier que
ollama psne conserve pas un modèle qui devait être déchargé. - [ ] Exécuter une requête courte avec un seul appel.
- [ ] Observer la réponse vide, le temps de traitement, la pression mémoire et l’activité d’échange.
- [ ] Tester le contexte cible sans augmenter la concurrence.
- [ ] Répéter plusieurs requêtes continues avec le même contexte.
- [ ] Réintroduire la concurrence prévue par le service, une modification à la fois.
- [ ] Tester la conservation prolongée uniquement après la stabilité du scénario actif.
- [ ] Si le KV Cache ou Flash Attention est modifié, conserver un échantillon de sortie avant et après.
- [ ] Vérifier le retour de la mémoire après déchargement et rechercher les erreurs Metal dans les journaux.
- [ ] Revenir au dernier palier validé dès la première réapparition du défaut.
Cette liste produit une base de comparaison exploitable. Elle ne transforme pas un rapport communautaire en défaut confirmé. Les signalements de mémoire persistante, de réinitialisation GPU ou de blocage d’un exécuteur doivent être rapprochés de la version utilisée, de la trace complète et du scénario reproductible.
Questions fréquentes après la récupération
Défaillance après une longue génération
Une génération qui échoue après une période de fonctionnement doit être reproduite avec le même modèle, le même contexte et le même mode de lancement. Une requête courte immédiatement après le redémarrage ne valide que la récupération de base. Elle ne valide pas la charge longue. La réduction du contexte et la désactivation de la concurrence permettent de distinguer une surcharge prévisible d’un état qui persiste après déchargement.
Mémoire qui ne revient pas immédiatement
Le Moniteur d’activité peut montrer une pression qui baisse avec retard. Il faut examiner le comportement après déchargement, puis après une nouvelle requête courte, plutôt que comparer une seule valeur à un instant précis. Si le modèle reste listé ou si la pression augmente à chaque cycle identique, conservez le journal et arrêtez les essais répétés.
Configuration qui disparaît après redémarrage
Une variable exportée dans un terminal ne suit pas automatiquement l’application macOS. Inversement, launchctl ne corrige pas un service lancé dans un autre environnement. La solution consiste à identifier le propriétaire réel du processus, à modifier son mode de lancement, puis à vérifier la valeur juste avant le démarrage. La console ProxyMac peut servir à suivre un environnement Mac distant lorsque le test est déplacé hors du poste local.
Cache modifié mais sorties instables
Le KV Cache ne doit jamais être jugé uniquement sur la quantité de mémoire observée. Une sortie vide, tronquée ou incohérente invalide le réglage pour le cas d’usage. Pour un pipeline de montage, de génération audio ou de design, gardez un court jeu de consignes représentatif : la stabilité technique et la qualité attendue doivent être validées ensemble.
La décision après une nouvelle saturation
Trois chemins restent raisonnables lorsque le problème revient.
Revenir à une version antérieure. Si une version récente reproduit le défaut alors qu’une version précédente ne le reproduit pas dans le même scénario, gardez le minimum reproductible et comparez les journaux. Il faut alors parler de corrélation de version, non de preuve que la version est la cause. La page des versions d’Ollama doit être consultée avant tout changement.
Réduire le modèle ou le contexte. Si le service accepte une variante quantifiée plus petite et un contexte minimal, testez cette combinaison avec le même script. Le compromis porte sur la qualité, la longueur des réponses et le temps de démarrage. Il doit être mesuré sur le travail réel, pas seulement sur une commande de démonstration.
Déplacer la charge vers un Mac distant. Si le poids du modèle, le contexte minimal et la requête unique ne restent pas stables sur le Mac local, poursuivre avec des variables obscures ne résout pas la contrainte de capacité. Un environnement distant doté de davantage de mémoire unifiée permet de rejouer le même script, avec les mêmes sorties attendues et les mêmes contrôles. Les modalités d’accès peuvent être préparées depuis la page d’aide de ProxyMac, sans confondre un test de capacité avec une migration définitive.
Le poste local conserve un avantage pour les interfaces, les fichiers sensibles et les périphériques physiques. Le Mac distant devient plus pertinent pour les longues sessions d’agent, les traitements par lots et les essais audio ou vidéo qui doivent rester disponibles sans monopoliser la mémoire du poste de création.
Le recours à ProxyMac est donc surtout cohérent après la validation par paliers : si le scénario local échoue encore avec un modèle réduit, un contexte minimal et une seule requête, le problème n’est plus seulement un réglage Ollama. La solution actuelle impose alors des redémarrages, limite les tâches simultanées et rend les essais de longue durée fragiles. Un Mac distant permet de tester la capacité avec la même procédure avant de décider d’une location récurrente. En revanche, un travail permanent à forte charge ou nécessitant des interfaces physiques peut justifier l’achat d’une machine locale plutôt qu’une location.
Avant cette décision, conservez le script de pression, la configuration validée et le point exact de réapparition de l’erreur. C’est ce dossier, davantage qu’un simple changement de paramètre, qui permet de comparer honnêtement le Mac actuel et un environnement ProxyMac.
Pour aller plus loin
Poursuivez vos charges d’IA avec ProxyMac
Lorsque la mémoire de votre ordinateur local atteint ses limites, louez un serveur cloud dédié ProxyMac pour disposer d’un environnement plus stable.
Accédez à votre instance à distance en SSH ou via un bureau graphique dans le navigateur, selon vos besoins techniques.