~/tools / Faire tourner un LLM local sur votre serveur / Ollama systemd Override Generator

Ollama systemd Override Generator — Créez l'override systemd d'Ollama : OLLAMA_HOST, OLLAMA_MODELS, KEEP_ALIVE et plus

Créez l'override systemd qui définit les variables d'environnement d'Ollama sur un serveur Linux : l'adresse d'écoute, le répertoire des modèles, la durée pendant laquelle les modèles restent en mémoire, la longueur de contexte, les requêtes parallèles, Flash Attention, le type de cache K/V, des origines supplémentaires, le mode local uniquement et un proxy HTTPS. Chaque variable provient de la FAQ officielle d'Ollama, et chaque valeur est placée entre guillemets comme systemd la lit. Rien ne quitte votre navigateur.

Variables d'environnement

Les champs vides ne sont pas écrits. Le texte gris est la valeur par défaut indiquée dans la FAQ d'Ollama.

OLLAMA_HOSTAdresse et port sur lesquels Ollama écouteOLLAMA_MODELSRépertoire des fichiers de modèles ; l'utilisateur ollama a besoin d'un accès en lecture et en écritureOLLAMA_KEEP_ALIVEDurée de présence d'un modèle en mémoire : 10m, 24h, 3600 (secondes), -1 pour le garder, 0 pour le décharger aussitôtOLLAMA_CONTEXT_LENGTHFenêtre de contexte par défaut, en tokensOLLAMA_NUM_PARALLELRequêtes parallèles par modèle ; la mémoire augmente avec cette valeur multipliée par la longueur de contexteOLLAMA_MAX_LOADED_MODELSModèles chargés en même temps s'ils tiennent (3 pour l'inférence sur CPU)OLLAMA_MAX_QUEUERequêtes mises en file d'attente en cas de charge avant que les suivantes soient rejetées avec 503OLLAMA_FLASH_ATTENTIONUtilisé automatiquement s'il est pris en charge ; 1 le force, 0 le désactiveOLLAMA_KV_CACHE_TYPEq8_0 utilise environ la moitié de la mémoire de f16 et q4_0 environ le quart, avec Flash Attention activéOLLAMA_ORIGINSOrigines web supplémentaires autorisées à appeler Ollama, séparées par des virgulesOLLAMA_NO_CLOUDMode local uniquement, sans les modèles cloud ni la recherche web d'OllamaDéfinir OLLAMA_NO_CLOUD=1HTTPS_PROXYProxy pour le téléchargement des modèles

Override pour systemctl edit

Collez-le dans l'éditeur qu'ouvre sudo systemctl edit ollama.service, entre les deux lignes de commentaire. Il est enregistré sous /etc/systemd/system/ollama.service.d/override.conf.

[Service]
Environment="OLLAMA_KEEP_ALIVE=10m"
Environment="OLLAMA_CONTEXT_LENGTH=8192"
Environment="OLLAMA_MAX_LOADED_MODELS=1"
Environment="OLLAMA_NO_CLOUD=1"

Commandes

Exécutez-les sur le serveur dans cet ordre. La dernière affiche les variables reçues par le service. Lorsque vous modifiez OLLAMA_MODELS, les deux premières créent le répertoire et l'attribuent à l'utilisateur ollama ; mkdir -p est un ajout de notre part, car chown échoue sur un répertoire qui n'existe pas.

sudo systemctl edit ollama.service
sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment

Variables et valeurs par défaut telles qu'indiquées dans la FAQ d'Ollama, et règles de guillemets du manuel de systemd.exec, vérifiées le 2026-11-03. FAQ d'Ollama / systemd.exec: Environment=

Tout se passe dans votre navigateur. Rien de ce que vous saisissez n'est envoyé nulle part.

Lorsque Ollama tourne comme service systemd sous Linux, la FAQ officielle indique de définir ses variables d'environnement avec systemctl edit ollama.service : ajoutez une ligne Environment par variable sous [Service], enregistrez, puis exécutez systemctl daemon-reload et systemctl restart ollama. Les étapes sont courtes, mais il est facile de se tromper dans les détails. systemd développe les spécificateurs, donc un signe % doit être écrit %% ; une barre oblique inverse ou un guillemet double dans une affectation entre guillemets est lu comme un échappement ; et une valeur contenant un espace doit être mise entre guillemets en entier. Cet outil écrit l'override pour vous. Il ne propose que les variables documentées dans la FAQ, affiche la valeur par défaut documentée à côté de chacune, place chaque affectation entre guillemets sous la forme "NAME=value" et double les signes %. Il avertit lorsqu'une valeur ferait écouter Ollama sur toutes les interfaces réseau, lorsqu'un nombre n'est pas entier et lorsqu'un cache K/V quantifié est choisi alors que Flash Attention est désactivé. Nous avons testé la sortie sur Ubuntu 24.04 avec systemd 255 : nous l'avons collée dans systemctl edit et vérifié que le service recevait chaque valeur sans modification, y compris les espaces, $, ' et %.

Le cœur de cet outil est open source, sous licence MIT. github.com/seigo5555/toolkitbox-lib/src/ollama-systemd.ts

Cas d'usage

Garder un modèle en mémoire plus longtemps, ou le décharger plus tôt, sur un petit VPS avec OLLAMA_KEEP_ALIVE
Déplacer les fichiers de modèles vers un disque plus grand avec OLLAMA_MODELS
Limiter Ollama à un seul modèle chargé et fixer la longueur de contexte par défaut sur un serveur disposant de peu de mémoire

Utilisation

Remplissez uniquement les variables que vous voulez modifier. Les champs vides sont omis, donc Ollama garde ses valeurs par défaut. Le texte gris de chaque champ est la valeur par défaut indiquée par la FAQ.
Lisez les avertissements. Une adresse d'écoute autre que 127.0.0.1 ou localhost rend Ollama accessible depuis d'autres machines, et la FAQ ne décrit aucune authentification pour cela.
Exécutez sudo systemctl edit ollama.service, collez le texte dans l'éditeur entre les deux lignes de commentaire, enregistrez et quittez. Exécutez ensuite les autres commandes pour recharger systemd, redémarrer Ollama et vérifier les valeurs qu'il a reçues.

FAQ

Où le fichier est-il enregistré ?

systemctl edit l'enregistre sous forme de fichier drop-in, /etc/systemd/system/ollama.service.d/override.conf, et laisse le fichier d'unité principal inchangé. Lorsque nous l'avons exécuté sur Ubuntu 24.04, l'éditeur affichait le commentaire ### Anything between here and the comment below will become the contents of the drop-in file. Collez le texte entre ce commentaire et celui qui se trouve en dessous.

Pourquoi chaque valeur est-elle entre guillemets doubles ?

La documentation de systemd indique qu'une valeur contenant des espaces ou un signe égal doit avoir des guillemets autour de toute l'affectation. Mettre chaque ligne entre guillemets de la même façon préserve les chemins contenant des espaces et les listes comme OLLAMA_ORIGINS. La documentation précise aussi que $ n'a ici aucun sens particulier et est donc transmis tel quel, alors que % introduit un spécificateur, c'est pourquoi l'outil écrit %% pour un % littéral.

Quels caractères ne sont pas acceptés ?

Les guillemets doubles, les barres obliques inverses et les caractères de contrôle comme les tabulations. Dans une affectation entre guillemets, systemd les lit comme des échappements ou les rejette, donc la valeur n'arriverait pas à Ollama telle que saisie. L'outil les signale comme des erreurs et omet cette ligne.

Est-il sûr de mettre OLLAMA_HOST à 0.0.0.0 ?

Cela fait écouter Ollama sur toutes les interfaces réseau, de sorte que d'autres machines peuvent l'atteindre. La FAQ indique qu'Ollama écoute par défaut sur 127.0.0.1 port 11434 et ne décrit aucune authentification pour le serveur. Notre recommandation, qui ne vient pas des documents : gardez la valeur par défaut et accédez à Ollama par un tunnel SSH ou un proxy avec mot de passe et HTTPS, et limitez le port 11434 dans le pare-feu.

Puis-je mettre un mot de passe dans HTTPS_PROXY ?

L'outil avertit lorsque l'adresse du proxy contient un nom d'utilisateur et un mot de passe. La documentation de systemd indique que les variables d'environnement ne conviennent pas pour transmettre des secrets, parce que les valeurs définies pour une unité peuvent être lues par des clients non privilégiés. La FAQ dit aussi d'éviter de définir HTTP_PROXY, car Ollama ne télécharge les modèles que par HTTPS et HTTP_PROXY peut interrompre les connexions des clients ; l'outil ne propose donc que HTTPS_PROXY.

Quelque chose est-il envoyé à un serveur ?

Non. L'override est composé dans votre navigateur.

Voir aussi

Ollama nginx Config Generator Local LLM Memory Estimator