~/ / Статьи об ИИ / Локальные LLM на VPS / Установка Ollama на VPS и поддержание её работы: установка, служба systemd, настройки и обновления
Установка Ollama на VPS и поддержание её работы: установка, служба systemd, настройки и обновления
Когда вы знаете, что модель помещается в память вашего VPS, установка Ollama занимает несколько команд. Больше внимания требует другое: чтобы она продолжала работать, запускалась при загрузке системы, получала нужные переменные окружения, хранила большие файлы моделей там, где нужно, и обновлялась позже. В этой статье по шагам разобраны официальная документация Ollama для Linux и FAQ.
Опубликовано: · 4 мин чтения · Проверено по официальной документации Ollama: 2026-10-26. Команды и значения по умолчанию меняются, поэтому сверяйтесь с актуальными документами, прежде чем что-либо запускать на сервере.
Сначала проверьте память
Модель, которая не помещается в память сервера, будет работать плохо, а её предварительная загрузка впустую тратит время и место на диске. Оцените память до установки: файл модели, плюс KV-кэш для планируемой длины контекста, плюс запас для операционной системы.
Попробовать: Local LLM Memory Estimator
Оценка
- Веса модели
- 4.84 GiB
- Кэш KV
- 0.56 GiB
- Запас
- 1.00 GiB
- Итого
- 6.41 GiB (6.88 GB)
- Наименьший распространённый объём памяти, в который помещается
- 8 GiB
Это оценка. Она не включает вычислительные буферы рантайма и предполагает, что у каждого слоя одинаковая форма KV. Измерьте реальный запуск, прежде чем выбирать тариф.
Данные о модели проверены 2026-10-26.
Источники: Ollama library · Конфигурация модели (config.json) · Ollama FAQ
Всё выполняется в вашем браузере. Ничего не загружается.
Установка
В документации Ollama для Linux приведены однострочная команда установки и ручная установка. Прежде чем передавать скрипт в оболочку на важном сервере, прочитайте его: он находится по адресу из команды.
| Способ | Команда или шаг |
|---|---|
| Скрипт установки | curl -fsSL https://ollama.com/install.sh | sh |
| Вручную: удалить старые библиотеки при обновлении | sudo rm -rf /usr/lib/ollama |
| Вручную: скачать и распаковать | curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst | sudo tar x -C /usr |
| Вручную: запустить сервер | ollama serve |
| Проверить, что он работает (в другом терминале) | ollama -v |
Для сервера ARM64 в документации используется ollama-linux-arm64.tar.zst вместо пакета amd64. Драйверы GPU необязательны: в документации указаны CUDA для GPU NVIDIA и ROCm для GPU AMD, а на обычном VPS нет ни того, ни другого.
Запуск в виде службы
Чтобы Ollama запускалась при загрузке и перезапускалась после сбоя, в документации описана служба systemd. Сначала создайте отдельного пользователя и группу, затем создайте файл юнита /etc/systemd/system/ollama.service.
| Секция | Строки в файле юнита из документации |
|---|---|
| [Unit] | описание и After=network-online.target |
| [Service] | ExecStart=/usr/bin/ollama serve |
| [Service] | User=ollama и Group=ollama |
| [Service] | Restart=always и RestartSec=3 |
| [Service] | Environment="PATH=$PATH" |
| [Install] | WantedBy=multi-user.target |
- Создайте пользователя и группу: sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama, затем sudo usermod -a -G ollama $(whoami)
- Загрузите и включите юнит: sudo systemctl daemon-reload, затем sudo systemctl enable ollama
- Запустите службу и проверьте её: sudo systemctl start ollama, затем sudo systemctl status ollama
- Читайте журналы: journalctl -e -u ollama
В документации не сказано, настраивает ли скрипт установки эту службу сам. После установки проверьте это командой systemctl status ollama, а не полагайтесь на предположение.
Настройки, важные на сервере
Переменные окружения задаются в переопределении systemd. В FAQ сказано: откройте службу командой systemctl edit ollama.service, добавьте переменную в секцию [Service], затем выполните systemctl daemon-reload и systemctl restart ollama. Например: Environment="OLLAMA_HOST=0.0.0.0:11434".
| Переменная | Что сказано в документации |
|---|---|
| OLLAMA_HOST | По умолчанию Ollama привязывается к 127.0.0.1, порт 11434; эта переменная меняет адрес привязки |
| OLLAMA_KEEP_ALIVE | По умолчанию модели хранятся в памяти 5 минут, после чего выгружаются; значение keep_alive в запросе к API переопределяет эту настройку |
| OLLAMA_MAX_LOADED_MODELS | Максимальное число одновременно загруженных моделей, если они помещаются в память; по умолчанию 3 для инференса на CPU |
| OLLAMA_MODELS | В Linux модели хранятся в /usr/share/ollama/.ollama/models; чтобы использовать другой каталог, задайте эту переменную и дайте пользователю ollama права на чтение и запись в нём, например командой sudo chown -R ollama:ollama <directory> |
Файлы моделей велики (загрузка Qwen3 8B составляет 5.2 GB, а 14B — 9.3 GB), поэтому перед загрузкой нескольких моделей проверьте свободное место на диске VPS.
Доступ извне
В FAQ сказано, что Ollama запускает HTTP-сервер и может быть доступна через прокси-сервер, например Nginx. В его примере сервер слушает порт 80, задаёт server_name, перенаправляет запросы с помощью proxy_pass http://localhost:11434 и устанавливает заголовок Host в localhost:11434.
На проверенной нами странице FAQ не описана какая-либо аутентификация для сервера Ollama. Наша рекомендация, а не утверждение из документов: оставьте адрес по умолчанию и подключайтесь к серверу через туннель SSH, а если ставите перед ним прокси, добавьте там аутентификацию и HTTPS и ограничьте порт в файрволе адресами, которыми вы пользуетесь.
Обновление, проверка и удаление
- Обновляйте, запустив скрипт установки ещё раз или заново скачав архив по шагам ручной установки.
- Чтобы установить конкретную версию, задайте OLLAMA_VERSION перед скриптом, например curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh. Номера версий есть на странице релизов GitHub.
- Чтобы запустить модель из библиотеки, используйте команду, указанную на её странице, например ollama run qwen3:4b.
- Чтобы удалить службу, выполните sudo systemctl stop ollama и sudo systemctl disable ollama, затем удалите файл юнита. В документации также перечислено удаление библиотек, бинарного файла, а также моделей, пользователя и группы в /usr/share/ollama.
Источники
Читайте дальше
- Вызов локальной модели из кода: структурированный вывод и OpenAI-совместимый API в OllamaОграничьте вывод локальной модели с помощью JSON Schema и обращайтесь к Ollama из клиентов в стиле OpenAI: что говорит официальная документация и что не поддерживается.
- Что умеет локальная модель? tools, thinking, vision и embedding в Ollama и что поместится на VPStools, thinking, vision, embedding: что означают метки в библиотеке Ollama, у каких моделей они есть и насколько велики загрузки.
- Сколько памяти нужно локальной LLM на VPS? Файл модели плюс KV-кэшФайл модели плюс KV-кэш: что библиотека Ollama, FAQ Ollama и официальные конфигурации моделей говорят о памяти, которая нужна локальной LLM на VPS.
- ИИ на собственном VPS: сколько памяти закладывать и что не открывать наружуСобираетесь запускать Ollama или Dify на VPS? Что говорит официальная документация о памяти, работе только на CPU и портах, которые нужно держать закрытыми.