toolkitbox

~/ / Статьи об ИИ / Локальные LLM на VPS / Установка Ollama на VPS и поддержание её работы: установка, служба systemd, настройки и обновления

Установка Ollama на VPS и поддержание её работы: установка, служба systemd, настройки и обновления

Когда вы знаете, что модель помещается в память вашего VPS, установка Ollama занимает несколько команд. Больше внимания требует другое: чтобы она продолжала работать, запускалась при загрузке системы, получала нужные переменные окружения, хранила большие файлы моделей там, где нужно, и обновлялась позже. В этой статье по шагам разобраны официальная документация Ollama для Linux и FAQ.

Опубликовано: · 4 мин чтения · Проверено по официальной документации Ollama: 2026-10-26. Команды и значения по умолчанию меняются, поэтому сверяйтесь с актуальными документами, прежде чем что-либо запускать на сервере.

Сначала проверьте память

Модель, которая не помещается в память сервера, будет работать плохо, а её предварительная загрузка впустую тратит время и место на диске. Оцените память до установки: файл модели, плюс KV-кэш для планируемой длины контекста, плюс запас для операционной системы.

Попробовать: Local LLM Memory Estimator

Модель

Тег Ollama qwen3:8b, квантование Q4_K_M, размер загрузки 5.2 GB.

Оценка

Веса модели
4.84 GiB
Кэш KV
0.56 GiB
Запас
1.00 GiB
Итого
6.41 GiB (6.88 GB)
Наименьший распространённый объём памяти, в который помещается
8 GiB

Это оценка. Она не включает вычислительные буферы рантайма и предполагает, что у каждого слоя одинаковая форма KV. Измерьте реальный запуск, прежде чем выбирать тариф.

Данные о модели проверены 2026-10-26.

Источники: Ollama library · Конфигурация модели (config.json) · Ollama FAQ

Всё выполняется в вашем браузере. Ничего не загружается.

Установка

В документации Ollama для Linux приведены однострочная команда установки и ручная установка. Прежде чем передавать скрипт в оболочку на важном сервере, прочитайте его: он находится по адресу из команды.

СпособКоманда или шаг
Скрипт установкиcurl -fsSL https://ollama.com/install.sh | sh
Вручную: удалить старые библиотеки при обновленииsudo rm -rf /usr/lib/ollama
Вручную: скачать и распаковатьcurl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst | sudo tar x -C /usr
Вручную: запустить серверollama serve
Проверить, что он работает (в другом терминале)ollama -v

Для сервера ARM64 в документации используется ollama-linux-arm64.tar.zst вместо пакета amd64. Драйверы GPU необязательны: в документации указаны CUDA для GPU NVIDIA и ROCm для GPU AMD, а на обычном VPS нет ни того, ни другого.

Запуск в виде службы

Чтобы Ollama запускалась при загрузке и перезапускалась после сбоя, в документации описана служба systemd. Сначала создайте отдельного пользователя и группу, затем создайте файл юнита /etc/systemd/system/ollama.service.

СекцияСтроки в файле юнита из документации
[Unit]описание и After=network-online.target
[Service]ExecStart=/usr/bin/ollama serve
[Service]User=ollama и Group=ollama
[Service]Restart=always и RestartSec=3
[Service]Environment="PATH=$PATH"
[Install]WantedBy=multi-user.target
  • Создайте пользователя и группу: sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama, затем sudo usermod -a -G ollama $(whoami)
  • Загрузите и включите юнит: sudo systemctl daemon-reload, затем sudo systemctl enable ollama
  • Запустите службу и проверьте её: sudo systemctl start ollama, затем sudo systemctl status ollama
  • Читайте журналы: journalctl -e -u ollama

В документации не сказано, настраивает ли скрипт установки эту службу сам. После установки проверьте это командой systemctl status ollama, а не полагайтесь на предположение.

Настройки, важные на сервере

Переменные окружения задаются в переопределении systemd. В FAQ сказано: откройте службу командой systemctl edit ollama.service, добавьте переменную в секцию [Service], затем выполните systemctl daemon-reload и systemctl restart ollama. Например: Environment="OLLAMA_HOST=0.0.0.0:11434".

ПеременнаяЧто сказано в документации
OLLAMA_HOSTПо умолчанию Ollama привязывается к 127.0.0.1, порт 11434; эта переменная меняет адрес привязки
OLLAMA_KEEP_ALIVEПо умолчанию модели хранятся в памяти 5 минут, после чего выгружаются; значение keep_alive в запросе к API переопределяет эту настройку
OLLAMA_MAX_LOADED_MODELSМаксимальное число одновременно загруженных моделей, если они помещаются в память; по умолчанию 3 для инференса на CPU
OLLAMA_MODELSВ Linux модели хранятся в /usr/share/ollama/.ollama/models; чтобы использовать другой каталог, задайте эту переменную и дайте пользователю ollama права на чтение и запись в нём, например командой sudo chown -R ollama:ollama <directory>

Файлы моделей велики (загрузка Qwen3 8B составляет 5.2 GB, а 14B — 9.3 GB), поэтому перед загрузкой нескольких моделей проверьте свободное место на диске VPS.

Доступ извне

В FAQ сказано, что Ollama запускает HTTP-сервер и может быть доступна через прокси-сервер, например Nginx. В его примере сервер слушает порт 80, задаёт server_name, перенаправляет запросы с помощью proxy_pass http://localhost:11434 и устанавливает заголовок Host в localhost:11434.

На проверенной нами странице FAQ не описана какая-либо аутентификация для сервера Ollama. Наша рекомендация, а не утверждение из документов: оставьте адрес по умолчанию и подключайтесь к серверу через туннель SSH, а если ставите перед ним прокси, добавьте там аутентификацию и HTTPS и ограничьте порт в файрволе адресами, которыми вы пользуетесь.

Обновление, проверка и удаление

  • Обновляйте, запустив скрипт установки ещё раз или заново скачав архив по шагам ручной установки.
  • Чтобы установить конкретную версию, задайте OLLAMA_VERSION перед скриптом, например curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh. Номера версий есть на странице релизов GitHub.
  • Чтобы запустить модель из библиотеки, используйте команду, указанную на её странице, например ollama run qwen3:4b.
  • Чтобы удалить службу, выполните sudo systemctl stop ollama и sudo systemctl disable ollama, затем удалите файл юнита. В документации также перечислено удаление библиотек, бинарного файла, а также моделей, пользователя и группы в /usr/share/ollama.

Источники

Читайте дальше