~/ / Artykuły o AI / Lokalne LLM na VPS / Lokalny LLM bez drogiego komputera: poradnik dla początkujących, jak użyć VPS
Lokalny LLM bez drogiego komputera: poradnik dla początkujących, jak użyć VPS
Nie musisz kupować mocnego komputera, żeby wypróbować lokalny model językowy. Możesz wynająć serwer, czyli VPS, zainstalować na nim model i rozmawiać z nim w przeglądarce na dowolnym urządzeniu. Ten poradnik prowadzi Cię od zera do działającego, chronionego ekranu czatu w sześciu krokach. Po drodze korzysta z narzędzi tej strony i otwarcie mówi, co VPS bez GPU może, a czego nie może obiecać.
Opublikowano: · 5 min czytania · Fakty sprawdzone w oficjalnej dokumentacji i na oficjalnych stronach usług VPS w dniu 2026-10-26. Plany, ceny i ustawienia domyślne się zmieniają, więc sprawdź je przed zapłatą.
Czego możesz się spodziewać, a czego nie
VPS to komputer w centrum danych, który wynajmujesz. Lokalny LLM oznacza tu model uruchomiony na tym komputerze, a nie usługę wywoływaną przez internet. Twoje rozmowy zostają na serwerze, który kontrolujesz.
VPS nie zastępuje komputera z mocną kartą graficzną i ten poradnik tego nie twierdzi. Oto, co udało nam się potwierdzić, a czego nie.
| Pytanie | Co ustaliliśmy |
|---|---|
| Czy plany VPS mają GPU? | Żadna z sześciu sprawdzonych przez nas stron VPS nie podaje planu z GPU. Strony ConoHa i XServer odsyłają do osobnych usług GPU. |
| Gdzie więc działa model? | W pamięci serwera, na CPU. Ollama FAQ podaje, że ollama ps pokazuje 100% CPU, gdy model został w całości załadowany do pamięci systemowej. |
| Jak szybko to działa? | Nie wiemy. Sprawdzone przez nas dokumenty nie podają żadnych wartości szybkości dla pracy wyłącznie na CPU, a my niczego nie mierzyliśmy. Zacznij od małego modelu i przetestuj go. |
| Co decyduje o tym, czy model w ogóle ruszy? | Pamięć. Model, który nie mieści się w pamięci serwera, nie będzie działał dobrze. Krok 1 pokazuje, jak ją oszacować. |
Jeśli rozmawiasz z modelem tylko od czasu do czasu, płatna usługa AI wywoływana przez internet może kosztować mniej niż serwer działający przez cały miesiąc. Krok 3 zawiera kalkulator, dzięki któremu porównasz to na własnych liczbach.
Krok 1: oszacuj potrzebną pamięć
Model potrzebuje pamięci na swój plik, na cache, który rośnie wraz z długością rozmowy, oraz na system operacyjny. Tabela pokazuje nasze oszacowanie dla sześciu modeli przy długości kontekstu 4,096 tokenów, jednym zapytaniu naraz i 1 GiB zarezerwowanym dla systemu. Oszacowania zostały obliczone na podstawie rozmiarów z biblioteki Ollama i oficjalnych konfiguracji modeli, więc są to szacunki, a nie pomiary.
| Model | Szacowana suma (GiB) | Najmniejszy typowy rozmiar pamięci (GiB) |
|---|---|---|
| Qwen3 0.6B | 1.92 | 2 |
| Qwen3 1.7B | 2.74 | 4 |
| Qwen3 4B | 3.89 | 4 |
| Qwen3 8B | 6.41 | 8 |
| Qwen3 14B | 10.29 | 12 |
| Mistral 7B (v0.3) | 5.60 | 8 |
Wypróbuj: Local LLM Memory Estimator
Oszacowanie
- Wagi modelu
- 4.84 GiB
- KV cache
- 0.56 GiB
- Rezerwa
- 1.00 GiB
- Suma
- 6.41 GiB (6.88 GB)
- Najmniejszy popularny rozmiar pamięci, który to pomieści
- 8 GiB
To jest oszacowanie. Nie obejmuje buforów obliczeniowych środowiska uruchomieniowego i zakłada, że każda warstwa ma ten sam kształt KV. Zanim wybierzesz plan, zmierz prawdziwe uruchomienie.
Dane modelu sprawdzono: 2026-10-26.
Źródła: Ollama library · Konfiguracja modelu (config.json) · Ollama FAQ
Wszystko działa w Twojej przeglądarce. Nic nie jest przesyłane.
Krok 2: wybierz model
Biblioteka Ollama oznacza każdy model etykietami tego, co potrafi. Model z etykietą tools może wywoływać zdefiniowane przez Ciebie funkcje, thinking pokazuje tok rozumowania oddzielnie od odpowiedzi, vision przyjmuje obrazy, a embedding zamienia tekst na wektory do wyszukiwania. Do pierwszej rozmowy nie potrzebujesz żadnej z nich, więc wybieraj najpierw według pamięci.
| Tag | Labels | Rozmiar pobierania | Klasa pamięci do zaplanowania |
|---|---|---|---|
| qwen3:4b | tools, thinking | 2.5 GB | 4 GiB |
| llama3.2:3b | tools | 2.0 GB | nie szacowano tutaj |
| gemma3:4b | vision | 3.4 GB | nie szacowano tutaj |
| mistral:7b | tools | 4.4 GB | 8 GiB |
Rozmiar pobierania to najmniejsza ilość pamięci, jakiej model potrzebuje. Modeli bez oszacowania nie ma w ustawieniach wstępnych kalkulatora, ponieważ potrzebuje on liczby warstw i rozmiarów głowic z konfiguracji modelu; możesz je wpisać jako model własny.
Krok 3: wybierz VPS
Najpierw spójrz na pamięć, potem na dysk na pliki modeli, a na końcu na CPU. Dysk ma znaczenie, bo jeden plik modelu ma kilka gigabajtów. Następnie sprawdź, jak wiele z konfiguracji usługa już przygotowała. Spośród sześciu usług z końca tego poradnika strony ConoHa VPS, KAGOYA CLOUD VPS i XServer VPS wspominają o Dify, a strona ConoHa VPS wymienia też n8n i Claude Code wśród swoich skryptów startowych. Żadna z tych sześciu nie wymienia serwera modeli takiego jak Ollama, więc instalujesz go sam w kroku 4.
Sekcja na końcu tej strony porównuje sześć usług na podstawie ich oficjalnych stron. Tutaj możesz porównać serwer z usługą AI wywoływaną przez internet.
Wypróbuj: LLM API Cost Calculator
Szacowany koszt
Wpisz ceny i liczby tokenów, aby zobaczyć koszt.
Oficjalne strony z cennikami
To tylko mnoży wpisane liczby. Nie zna cen dostawcy, rabatów, cache'owania, taryf wsadowych, cen progowych ani podatku.
Aby sprawdzić tokeny wejściowe promptu, użyj Token Counter.
Krok 4: zainstaluj Ollama
To polecenia z oficjalnej dokumentacji Ollama dla systemu Linux. Przeczytaj skrypt, zanim uruchomisz go na ważnym serwerze.
| Krok | Polecenie |
|---|---|
| Instalacja | curl -fsSL https://ollama.com/install.sh | sh |
| Sprawdź, czy działa | ollama -v |
| Uruchom model z biblioteki | ollama run qwen3:4b |
Aby uruchamiać Ollama przy starcie systemu i utrzymywać ją w działaniu, dokumentacja opisuje usługę systemd. Pełne kroki, ustawienia i aktualizacje znajdziesz w szczegółowych artykułach wymienionych pod koniec.
Krok 5: rozmawiaj w przeglądarce
Pisanie w terminalu wystarcza do przetestowania modelu. Na co dzień Open WebUI daje Ci ekran czatu w przeglądarce. Jego szybki start uruchamia go jednym poleceniem i udostępnia pod adresem http://localhost:3000. Zastąp your-secret-key wartością wygenerowaną poleceniem openssl rand -hex 32.
| Krok | Polecenie |
|---|---|
| Uruchom Open WebUI | docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:main |
- Pierwsze utworzone przez Ciebie konto jest kontem administratora, a rejestracja wyłącza się sama, gdy konto administratora już istnieje. Utwórz je od razu.
- Poradnik pokazuje dwa sposoby połączenia Open WebUI z Ollama, a szczegółowy artykuł wyjaśnia oba.
Krok 6: zachowaj prywatność
Ollama domyślnie nasłuchuje na 127.0.0.1 na porcie 11434, co jest najbezpieczniejszym ustawieniem, a jej dokumentacja nie opisuje żadnego własnego uwierzytelniania. Nasza rekomendacja, a nie stwierdzenie z dokumentów: nie otwieraj tego portu na internet. Postaw przed nią nginx z hasłem i HTTPS oraz użyj zapory sieciowej, która wpuszcza tylko adresy, z których korzystasz.
- Nie umieszczaj klucza tajnego ani haseł w niczym, co zatwierdzasz w repozytorium.
- Od czasu do czasu aktualizuj Ollama i Open WebUI, a przy tym zachowaj wolumen z danymi Open WebUI.
Więcej szczegółów
- 1Ile pamięci potrzebuje lokalny LLM na VPS? Plik modelu plus pamięć podręczna KVPlik modelu plus pamięć podręczna KV: co biblioteka Ollama, FAQ Ollama i oficjalne konfiguracje modeli mówią o pamięci potrzebnej lokalnemu LLM na VPS.
- 2Co potrafi model lokalny? Tools, thinking, vision i embeddings w Ollamie oraz co zmieści się na VPSTools, thinking, vision, embeddings: co znaczą etykiety w bibliotece Ollama, które modele je mają i jak duże są pobrania.
- 3Instalacja Ollama na VPS i utrzymanie jej w ruchu: instalacja, usługa systemd, ustawienia i aktualizacjeInstalacja Ollama na VPS z Linuksem i utrzymanie jej w ruchu: polecenie instalacji, usługa systemd, zmienne środowiskowe, przechowywanie modeli i aktualizacje, na podstawie oficjalnej dokumentacji.
- 4Open WebUI na VPS: uruchom go w Dockerze i połącz z OllamaUruchom Open WebUI w Dockerze i połącz go z Ollama na własnym serwerze: polecenia, pierwsze konto, dwa typy połączenia i aktualizacja.
- 5nginx przed Ollamą: uwierzytelnianie podstawowe, HTTPS i ustawienia dla strumieniowaniaBezpieczny dostęp do Ollamy z zewnątrz: nginx jako proxy, uwierzytelnianie podstawowe, HTTPS, ustawienia strumieniowania i limitów czasu oraz reguła zapory sieciowej, na podstawie oficjalnej dokumentacji.
- 6AI na własnym VPS: ile pamięci zaplanować i czego nie wystawiać do internetuPlanujesz uruchomić Ollama lub Dify na VPS? Co oficjalna dokumentacja mówi o pamięci, pracy wyłącznie na CPU i portach, które trzeba zostawić zamknięte.
Źródła
Czytaj dalej
- nginx przed Ollamą: uwierzytelnianie podstawowe, HTTPS i ustawienia dla strumieniowaniaBezpieczny dostęp do Ollamy z zewnątrz: nginx jako proxy, uwierzytelnianie podstawowe, HTTPS, ustawienia strumieniowania i limitów czasu oraz reguła zapory sieciowej, na podstawie oficjalnej dokumentacji.
- Open WebUI na VPS: uruchom go w Dockerze i połącz z OllamaUruchom Open WebUI w Dockerze i połącz go z Ollama na własnym serwerze: polecenia, pierwsze konto, dwa typy połączenia i aktualizacja.
- Wywołanie lokalnego modelu z własnego kodu: ustrukturyzowane odpowiedzi i API zgodne z OpenAI w OllamaOgranicz odpowiedź lokalnego modelu za pomocą JSON Schema i wywołuj Ollama z klientów w stylu OpenAI: co mówi oficjalna dokumentacja i czego nie obsługuje.
- Co potrafi model lokalny? Tools, thinking, vision i embeddings w Ollamie oraz co zmieści się na VPSTools, thinking, vision, embeddings: co znaczą etykiety w bibliotece Ollama, które modele je mają i jak duże są pobrania.