toolkitbox

~/ / Artykuły o AI / Lokalne LLM na VPS / Instalacja Ollama na VPS i utrzymanie jej w ruchu: instalacja, usługa systemd, ustawienia i aktualizacje

Instalacja Ollama na VPS i utrzymanie jej w ruchu: instalacja, usługa systemd, ustawienia i aktualizacje

Gdy wiesz już, że model mieści się w pamięci Twojego VPS, instalacja Ollama to kilka poleceń. Więcej uwagi wymaga utrzymanie jej w ruchu: uruchamianie przy starcie systemu, ustawienie zmiennych środowiskowych, wybór miejsca na duże pliki modeli i późniejsze aktualizacje. Ten artykuł krok po kroku omawia oficjalną dokumentację Ollama dla Linuksa oraz FAQ.

Opublikowano: · 4 min czytania · Sprawdzono z oficjalną dokumentacją Ollama dnia 2026-10-26. Polecenia i wartości domyślne się zmieniają, dlatego zanim cokolwiek uruchomisz na serwerze, sprawdź je w aktualnych dokumentach.

Najpierw sprawdź pamięć

Model, który nie mieści się w pamięci serwera, nie będzie działał dobrze, a jego wcześniejsze pobranie to strata czasu i miejsca na dysku. Oszacuj pamięć, zanim cokolwiek zainstalujesz: plik modelu, plus pamięć podręczna KV dla planowanej długości kontekstu, plus zapas dla systemu operacyjnego.

Wypróbuj: Local LLM Memory Estimator

Model

Tag Ollama qwen3:8b, kwantyzacja Q4_K_M, rozmiar pobierania 5.2 GB.

Oszacowanie

Wagi modelu
4.84 GiB
KV cache
0.56 GiB
Rezerwa
1.00 GiB
Suma
6.41 GiB (6.88 GB)
Najmniejszy popularny rozmiar pamięci, który to pomieści
8 GiB

To jest oszacowanie. Nie obejmuje buforów obliczeniowych środowiska uruchomieniowego i zakłada, że każda warstwa ma ten sam kształt KV. Zanim wybierzesz plan, zmierz prawdziwe uruchomienie.

Dane modelu sprawdzono: 2026-10-26.

Źródła: Ollama library · Konfiguracja modelu (config.json) · Ollama FAQ

Wszystko działa w Twojej przeglądarce. Nic nie jest przesyłane.

Instalacja

Dokumentacja Ollama dla Linuksa podaje jednowierszowe polecenie instalacji oraz instalację ręczną. Zanim przekażesz skrypt do powłoki na ważnym serwerze, przeczytaj go; skrypt znajduje się pod adresem z polecenia.

SposóbPolecenie lub krok
Skrypt instalacyjnycurl -fsSL https://ollama.com/install.sh | sh
Ręcznie: usunięcie starych bibliotek przy aktualizacjisudo rm -rf /usr/lib/ollama
Ręcznie: pobranie i rozpakowaniecurl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst | sudo tar x -C /usr
Ręcznie: uruchomienie serweraollama serve
Sprawdzenie, czy działa (w innym terminalu)ollama -v

Na serwerze ARM64 dokumentacja zamiast pakietu amd64 używa ollama-linux-arm64.tar.zst. Sterowniki GPU są opcjonalne: dokumentacja wymienia CUDA dla kart NVIDIA i ROCm dla kart AMD, a typowy VPS nie ma żadnych z nich.

Uruchomienie jako usługa

Aby Ollama startowała razem z systemem i uruchamiała się ponownie po awarii, dokumentacja opisuje usługę systemd. Najpierw utwórz dedykowanego użytkownika i grupę, a następnie plik jednostki /etc/systemd/system/ollama.service.

SekcjaWiersze w pliku jednostki z dokumentacji
[Unit]opis oraz After=network-online.target
[Service]ExecStart=/usr/bin/ollama serve
[Service]User=ollama oraz Group=ollama
[Service]Restart=always oraz RestartSec=3
[Service]Environment="PATH=$PATH"
[Install]WantedBy=multi-user.target
  • Utworzenie użytkownika i grupy: sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama, a następnie sudo usermod -a -G ollama $(whoami)
  • Wczytanie i włączenie jednostki: sudo systemctl daemon-reload, a następnie sudo systemctl enable ollama
  • Uruchomienie i sprawdzenie: sudo systemctl start ollama, a następnie sudo systemctl status ollama
  • Odczyt logów: journalctl -e -u ollama

Dokumentacja nie mówi, czy skrypt instalacyjny sam konfiguruje tę usługę. Po instalacji sprawdź to poleceniem systemctl status ollama, zamiast zakładać.

Ustawienia ważne na serwerze

Zmienne środowiskowe trafiają do nadpisania (override) systemd. FAQ każe edytować usługę poleceniem systemctl edit ollama.service, dodać zmienną w sekcji [Service], a następnie uruchomić systemctl daemon-reload i systemctl restart ollama. Na przykład: Environment="OLLAMA_HOST=0.0.0.0:11434".

ZmiennaCo mówi dokumentacja
OLLAMA_HOSTDomyślnie Ollama nasłuchuje na 127.0.0.1, porcie 11434; ta zmienna zmienia adres nasłuchiwania
OLLAMA_KEEP_ALIVEDomyślnie modele są trzymane w pamięci przez 5 minut, zanim zostaną wyładowane; wartość keep_alive w żądaniu API zastępuje to ustawienie
OLLAMA_MAX_LOADED_MODELSMaksymalna liczba modeli załadowanych jednocześnie, jeśli mieszczą się w pamięci; wartość domyślna dla wnioskowania na CPU to 3
OLLAMA_MODELSW Linuksie modele są przechowywane w /usr/share/ollama/.ollama/models; ustaw tę zmienną, aby użyć innego katalogu, i nadaj użytkownikowi ollama prawo odczytu i zapisu do niego, na przykład poleceniem sudo chown -R ollama:ollama <directory>

Pliki modeli są duże (pobranie Qwen3 8B to 5.2 GB, a 14B to 9.3 GB), dlatego zanim pobierzesz kilka modeli, sprawdź wolne miejsce na dysku VPS.

Dostęp z zewnątrz

FAQ mówi, że Ollama uruchamia serwer HTTP i można ją udostępnić za pomocą serwera proxy, takiego jak Nginx. Przykład z FAQ nasłuchuje na porcie 80, ustawia server_name, przekazuje żądania przez proxy_pass http://localhost:11434 i ustawia nagłówek Host na localhost:11434.

Strona FAQ, którą sprawdziliśmy, nie opisuje żadnego uwierzytelniania serwera Ollama. Nasza rekomendacja, a nie stwierdzenie z dokumentów: zostaw domyślny adres i łącz się z serwerem przez tunel SSH, albo, jeśli stawiasz przed nim proxy, dodaj tam uwierzytelnianie i HTTPS oraz ogranicz w zaporze sieciowej port do adresów, z których korzystasz.

Aktualizacja, sprawdzenie i usunięcie

  • Zaktualizuj, uruchamiając skrypt instalacyjny ponownie albo pobierając archiwum ponownie według kroków instalacji ręcznej.
  • Aby zainstalować konkretną wersję, ustaw OLLAMA_VERSION przed skryptem, na przykład curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh. Numery wersji znajdziesz na stronie wydań w serwisie GitHub.
  • Aby uruchomić model z biblioteki, użyj polecenia podanego na jego stronie, na przykład ollama run qwen3:4b.
  • Aby usunąć usługę, uruchom sudo systemctl stop ollama i sudo systemctl disable ollama, a następnie usuń plik jednostki. Dokumentacja wymienia też usunięcie bibliotek, pliku binarnego oraz modeli, użytkownika i grupy w /usr/share/ollama.

Źródła

Czytaj dalej