~/ / Статьи об ИИ / Локальные LLM на VPS / Локальная LLM без дорогого ПК: руководство для начинающих по работе через VPS
Локальная LLM без дорогого ПК: руководство для начинающих по работе через VPS
Чтобы попробовать локальную языковую модель, не нужно покупать мощный компьютер. Можно арендовать сервер, который называется VPS, установить на нём модель и общаться с ней из браузера на любом устройстве. Это руководство проведёт вас от нуля до работающего защищённого экрана чата за шесть шагов. По ходу оно использует инструменты этого сайта и прямо говорит, что VPS без GPU может и чего не может обещать.
Опубликовано: · 5 мин чтения · Факты проверены по официальной документации и официальным страницам VPS-сервисов 2026-10-26. Тарифы, цены и настройки по умолчанию меняются, поэтому уточняйте их перед оплатой.
Чего можно ожидать, а чего нельзя
VPS — это компьютер в центре обработки данных, который вы арендуете. Локальная LLM здесь означает модель, которая работает на этом компьютере, а не сервис, к которому вы обращаетесь через интернет. Ваши чаты остаются на сервере, который вы контролируете.
VPS не заменяет ПК с мощной видеокартой, и это руководство не утверждает обратного. Вот что нам удалось подтвердить и что не удалось.
| Вопрос | Что мы выяснили |
|---|---|
| Есть ли у тарифов VPS GPU? | Ни на одной из шести проверенных нами страниц VPS не указан тариф с GPU. Страницы ConoHa и XServer отсылают к отдельным GPU-сервисам. |
| Где же тогда работает модель? | В памяти сервера, на CPU. В FAQ Ollama сказано, что ollama ps показывает 100% CPU, когда модель целиком загружена в системную память. |
| Насколько это быстро? | Мы не знаем. В проверенных нами документах нет данных о скорости при работе только на CPU, и мы сами ничего не измеряли. Начните с небольшой модели и проверьте её. |
| От чего зависит, заработает ли модель вообще? | От памяти. Модель, которая не помещается в память сервера, будет работать плохо. Как это оценить, показано в шаге 1. |
Если вы общаетесь с ИИ лишь время от времени, платный ИИ-сервис, к которому вы обращаетесь через интернет, может обойтись дешевле сервера, работающего весь месяц. В шаге 3 есть калькулятор, чтобы вы могли сравнить на своих числах.
Шаг 1: оцените, сколько памяти нужно
Модели нужна память для её файла, для кэша, который растёт с длиной разговора, и для операционной системы. В таблице приведена наша оценка для шести моделей при длине контекста 4,096 токенов, одном запросе за раз и 1 GiB, зарезервированном для системы. Оценки рассчитаны по размерам из библиотеки Ollama и официальным конфигурациям моделей, поэтому это оценки, а не измерения.
| Модель | Оценочный итог (GiB) | Ближайший распространённый объём памяти (GiB) |
|---|---|---|
| Qwen3 0.6B | 1.92 | 2 |
| Qwen3 1.7B | 2.74 | 4 |
| Qwen3 4B | 3.89 | 4 |
| Qwen3 8B | 6.41 | 8 |
| Qwen3 14B | 10.29 | 12 |
| Mistral 7B (v0.3) | 5.60 | 8 |
Попробовать: Local LLM Memory Estimator
Оценка
- Веса модели
- 4.84 GiB
- Кэш KV
- 0.56 GiB
- Запас
- 1.00 GiB
- Итого
- 6.41 GiB (6.88 GB)
- Наименьший распространённый объём памяти, в который помещается
- 8 GiB
Это оценка. Она не включает вычислительные буферы рантайма и предполагает, что у каждого слоя одинаковая форма KV. Измерьте реальный запуск, прежде чем выбирать тариф.
Данные о модели проверены 2026-10-26.
Источники: Ollama library · Конфигурация модели (config.json) · Ollama FAQ
Всё выполняется в вашем браузере. Ничего не загружается.
Шаг 2: выберите модель
Библиотека Ollama помечает каждую модель метками того, что она умеет. Модель с меткой tools может вызывать функции, которые вы определяете, thinking показывает рассуждения отдельно от ответа, vision принимает изображения, а embedding превращает текст в векторы для поиска. Для первого чата ничего из этого не нужно, так что сначала выбирайте по памяти.
| Тег | Метки | Размер загрузки | Класс памяти для планирования |
|---|---|---|---|
| qwen3:4b | tools, thinking | 2.5 GB | 4 GiB |
| llama3.2:3b | tools | 2.0 GB | здесь не оценивалось |
| gemma3:4b | vision | 3.4 GB | здесь не оценивалось |
| mistral:7b | tools | 4.4 GB | 8 GiB |
Размер загрузки — это минимум памяти, который нужен модели. Моделей без оценки нет в пресетах калькулятора, потому что ему нужны число слоёв и размеры голов из конфигурации модели; их можно ввести вручную как собственную модель.
Шаг 3: выберите VPS
Сначала смотрите на память, затем на диск для файлов моделей, затем на CPU. Диск важен потому, что один файл модели занимает несколько гигабайт. Потом посмотрите, какую часть настройки сервис уже подготовил. Из шести сервисов в конце этого руководства на страницах ConoHa VPS, KAGOYA CLOUD VPS и XServer VPS упоминается Dify, а на странице ConoHa VPS среди стартовых скриптов указаны также n8n и Claude Code. Ни один из шести не предлагает сервер моделей вроде Ollama, поэтому вы устанавливаете его сами в шаге 4.
Раздел в конце этой страницы сравнивает шесть сервисов по их официальным страницам. Здесь же можно сравнить сервер с ИИ-сервисом, к которому вы обращаетесь через интернет.
Попробовать: LLM API Cost Calculator
Оценка стоимости
Введите цены и числа токенов, чтобы увидеть стоимость.
Официальные страницы цен
Это лишь умножает введённые вами числа. Оно не знает цен поставщика, скидок, кэширования, пакетных тарифов, ступенчатых цен и налогов.
Чтобы узнать число входных токенов промпта, используйте Token Counter.
Шаг 4: установите Ollama
Это команды из официальной документации Ollama для Linux. Прочитайте скрипт, прежде чем запускать его на важном сервере.
| Шаг | Команда |
|---|---|
| Установка | curl -fsSL https://ollama.com/install.sh | sh |
| Проверка, что он работает | ollama -v |
| Запуск модели из библиотеки | ollama run qwen3:4b |
Чтобы Ollama запускалась при загрузке и продолжала работать, в документации описана служба systemd. Полные шаги, настройки и обновления описаны в подробных статьях, перечисленных ближе к концу.
Шаг 5: общайтесь в браузере
Для проверки модели достаточно ввода в терминале. Для повседневной работы Open WebUI даёт экран чата в браузере. Согласно его краткому руководству, он запускается одной командой и доступен по адресу http://localhost:3000. Замените your-secret-key значением, которое вы сгенерируете командой openssl rand -hex 32.
| Шаг | Команда |
|---|---|
| Запуск Open WebUI | docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:main |
- Первая созданная вами учётная запись становится администратором, а регистрация отключается сама, как только появляется учётная запись администратора. Создайте её сразу.
- В руководстве показаны два способа подключить Open WebUI к Ollama, и подробная статья объясняет оба.
Шаг 6: сохраните приватность
По умолчанию Ollama слушает 127.0.0.1 на port 11434, и это самая безопасная настройка; собственной аутентификации в её документации не описано. Наша рекомендация, а не утверждение из документов: не открывайте этот порт в интернет. Поставьте перед ней nginx с паролем и HTTPS и используйте межсетевой экран, пропускающий только нужные вам адреса.
- Не включайте секретный ключ и пароли ни в то, что вы коммитите.
- Время от времени обновляйте Ollama и Open WebUI, сохраняя при этом том с данными Open WebUI.
Подробнее
- 1Сколько памяти нужно локальной LLM на VPS? Файл модели плюс KV-кэшФайл модели плюс KV-кэш: что библиотека Ollama, FAQ Ollama и официальные конфигурации моделей говорят о памяти, которая нужна локальной LLM на VPS.
- 2Что умеет локальная модель? tools, thinking, vision и embedding в Ollama и что поместится на VPStools, thinking, vision, embedding: что означают метки в библиотеке Ollama, у каких моделей они есть и насколько велики загрузки.
- 3Установка Ollama на VPS и поддержание её работы: установка, служба systemd, настройки и обновленияУстановка Ollama на Linux VPS и поддержание её работы: команда установки, служба systemd, переменные окружения, хранилище моделей и обновления по официальной документации.
- 4Open WebUI на VPS: запуск в Docker и подключение к OllamaЗапуск Open WebUI в Docker и подключение к Ollama на собственном сервере: команды, первая учётная запись, два типа подключения и обновление.
- 5nginx перед Ollama: базовая аутентификация, HTTPS и настройки потоковой передачиБезопасный доступ к Ollama снаружи: nginx как прокси, базовая аутентификация, HTTPS, настройки потоковой передачи и таймаутов, правило файрвола, по официальной документации.
- 6ИИ на собственном VPS: сколько памяти закладывать и что не открывать наружуСобираетесь запускать Ollama или Dify на VPS? Что говорит официальная документация о памяти, работе только на CPU и портах, которые нужно держать закрытыми.
Источники
Читайте дальше
- nginx перед Ollama: базовая аутентификация, HTTPS и настройки потоковой передачиБезопасный доступ к Ollama снаружи: nginx как прокси, базовая аутентификация, HTTPS, настройки потоковой передачи и таймаутов, правило файрвола, по официальной документации.
- Open WebUI на VPS: запуск в Docker и подключение к OllamaЗапуск Open WebUI в Docker и подключение к Ollama на собственном сервере: команды, первая учётная запись, два типа подключения и обновление.
- Вызов локальной модели из кода: структурированный вывод и OpenAI-совместимый API в OllamaОграничьте вывод локальной модели с помощью JSON Schema и обращайтесь к Ollama из клиентов в стиле OpenAI: что говорит официальная документация и что не поддерживается.
- Что умеет локальная модель? tools, thinking, vision и embedding в Ollama и что поместится на VPStools, thinking, vision, embedding: что означают метки в библиотеке Ollama, у каких моделей они есть и насколько велики загрузки.