~/tools / Локальная LLM на своём сервере / Ollama systemd Override Generator

Ollama systemd Override Generator — Соберите override для systemd с настройками Ollama: OLLAMA_HOST, OLLAMA_MODELS, KEEP_ALIVE и другое

Соберите override для systemd, который задаёт переменные окружения Ollama на сервере с Linux: адрес прослушивания, каталог моделей, время хранения моделей в памяти, длину контекста, параллельные запросы, Flash Attention, тип K/V-кэша, дополнительные origin, только локальный режим и HTTPS-прокси. Каждая переменная взята из официального FAQ Ollama, а каждое значение заключается в кавычки так, как его читает systemd. Данные не покидают ваш браузер.

[Service]
Environment="OLLAMA_KEEP_ALIVE=10m"
Environment="OLLAMA_CONTEXT_LENGTH=8192"
Environment="OLLAMA_MAX_LOADED_MODELS=1"
Environment="OLLAMA_NO_CLOUD=1"

sudo systemctl edit ollama.service
sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment

Когда Ollama работает в Linux как служба systemd, официальный FAQ предлагает задавать её переменные окружения командой systemctl edit ollama.service: добавьте по одной строке Environment на переменную в секции [Service], сохраните, затем выполните systemctl daemon-reload и systemctl restart ollama. Шаги короткие, но в деталях легко ошибиться. systemd раскрывает спецификаторы, поэтому знак % нужно писать как %%; обратная косая черта или двойная кавычка внутри присваивания в кавычках читается как escape-последовательность; а значение с пробелом нужно заключать в кавычки целиком. Этот инструмент пишет override за вас. Он предлагает только переменные, описанные в FAQ, показывает рядом с каждой документированное значение по умолчанию, заключает каждое присваивание в кавычки как "NAME=value" и удваивает знаки %. Он предупреждает, если значение заставит Ollama слушать на всех сетевых интерфейсах, если число не является целым и если выбран квантованный K/V-кэш при выключенном Flash Attention. Мы проверили результат на Ubuntu 24.04 с systemd 255: вставили его в systemctl edit и убедились, что служба получила каждое значение без изменений, включая пробелы, $, ' и %.

Основная логика этого инструмента открыта под лицензией MIT. github.com/seigo5555/toolkitbox-lib/src/ollama-systemd.ts