~/ / Yapay zeka makaleleri / VPS'te yerel LLM / Ollama'yı VPS'e kurmak ve çalışır tutmak: kurulum, systemd servisi, ayarlar ve güncellemeler

Ollama'yı VPS'e kurmak ve çalışır tutmak: kurulum, systemd servisi, ayarlar ve güncellemeler

Bir modelin VPS'inizin belleğine sığdığını öğrendikten sonra Ollama'yı kurmak birkaç komuttan ibarettir. Asıl özen isteyen kısım onu çalışır tutmaktır: açılışta başlatmak, ortam değişkenlerini ayarlamak, büyük model dosyalarının nereye gideceğini seçmek ve daha sonra güncellemek. Bu yazı, Linux için hazırlanmış resmî Ollama belgelerini ve SSS sayfasını adım adım izler.

Yayın: 2026-10-26 · 4 dk okuma · 2026-10-26 tarihinde resmî Ollama belgeleriyle karşılaştırılarak kontrol edildi. Komutlar ve varsayılanlar değişebilir; bir sunucuda herhangi bir şey çalıştırmadan önce güncel belgelerden doğrulayın.

Önce belleği kontrol edin

Sunucunuzun belleğine sığmayan bir model iyi çalışmaz ve önce indirmek zaman ile disk alanı kaybettirir. Herhangi bir şey kurmadan önce belleği tahmin edin: model dosyası, artı kullanmayı planladığınız bağlam uzunluğu için KV önbelleği, artı işletim sistemi için bir pay.

Deneyin: Local LLM Memory Estimator

Model

Ollama etiketi qwen3:8b, nicemleme Q4_K_M, indirme boyutu 5.2 GB.

Dosya boyutu (GB)Katman sayısıKV head sayısıHead boyutu

Bağlam uzunluğu (token)Paralel istek sayısıKV önbellek türüOS ve diğer servisler için pay (GiB)Planın belleği (GiB, isteğe bağlı)

Tahmin

Model ağırlıkları: 4.84 GiB
KV önbelleği: 0.56 GiB
Ayrılan pay: 1.00 GiB
Toplam: 6.41 GiB (6.88 GB)
Toplamı karşılayan en küçük yaygın bellek boyutu: 8 GiB

Bu bir tahmindir. Çalışma zamanının hesaplama arabelleklerini içermez ve her katmanın aynı KV yapısına sahip olduğunu varsayar. Bir plan seçmeden önce gerçek bir çalıştırmayı ölçün.

Model verileri 2026-10-26 tarihinde kontrol edildi.

Kaynaklar: Ollama library · Model yapılandırması (config.json) · Ollama FAQ

Her şey tarayıcınızda çalışır. Hiçbir şey yüklenmez.

Kurulum

Linux için hazırlanan Ollama belgeleri tek satırlık bir kurulum komutu ve bir elle kurulum yöntemi verir. Önemli bir sunucuda bir betiği kabuğa yönlendirmeden önce okuyun; betik, komuttaki adreste durur.

Yöntem	Komut veya adım
Kurulum betiği	curl -fsSL https://ollama.com/install.sh \| sh
Elle: yükseltirken eski kütüphaneleri kaldırma	sudo rm -rf /usr/lib/ollama
Elle: indirme ve açma	curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \| sudo tar x -C /usr
Elle: sunucuyu başlatma	ollama serve
Çalıştığını kontrol etme (başka bir terminalde)	ollama -v

ARM64 sunucuda belgeler amd64 paketi yerine ollama-linux-arm64.tar.zst kullanır. GPU sürücüleri isteğe bağlıdır: belgeler NVIDIA GPU'lar için CUDA'yı, AMD GPU'lar için ROCm'u listeler; tipik bir VPS'te ikisi de bulunmaz.

Servis olarak çalıştırma

Ollama'yı açılışta başlatmak ve bir hatadan sonra yeniden başlatmak için belgeler bir systemd servisi tarif eder. Önce ayrı bir kullanıcı ve grup oluşturun, ardından /etc/systemd/system/ollama.service birim dosyasını oluşturun.

Bölüm	Belgelerdeki birim dosyasının satırları
[Unit]	bir açıklama ve After=network-online.target
[Service]	ExecStart=/usr/bin/ollama serve
[Service]	User=ollama ve Group=ollama
[Service]	Restart=always ve RestartSec=3
[Service]	Environment="PATH=$PATH"
[Install]	WantedBy=multi-user.target

Kullanıcıyı ve grubu oluşturun: sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama, ardından sudo usermod -a -G ollama $(whoami)
Birimi yükleyin ve etkinleştirin: sudo systemctl daemon-reload, ardından sudo systemctl enable ollama
Başlatın ve kontrol edin: sudo systemctl start ollama, ardından sudo systemctl status ollama
Günlükleri okuyun: journalctl -e -u ollama

Belgeler, kurulum betiğinin bu servisi kendisinin kurup kurmadığını belirtmez. Kurulumdan sonra varsaymak yerine systemctl status ollama ile kontrol edin.

Bir sunucuda önemli olan ayarlar

Ortam değişkenleri bir systemd geçersiz kılma (override) dosyasına yazılır. SSS sayfası, servisi systemctl edit ollama.service ile düzenlemenizi, değişkeni [Service] altına eklemenizi, ardından systemctl daemon-reload ve systemctl restart ollama komutlarını çalıştırmanızı söyler. Örneğin: Environment="OLLAMA_HOST=0.0.0.0:11434".

Değişken	Belgelerin söylediği
OLLAMA_HOST	Ollama varsayılan olarak 127.0.0.1 adresinin 11434 numaralı portuna bağlanır; bu değişken bağlanma adresini değiştirir
OLLAMA_KEEP_ALIVE	Modeller varsayılan olarak boşaltılmadan önce 5 dakika bellekte tutulur; bir API isteğindeki keep_alive değeri bu ayarı geçersiz kılar
OLLAMA_MAX_LOADED_MODELS	Belleğe sığıyorlarsa aynı anda yüklenebilecek en fazla model sayısı; CPU çıkarımı için varsayılan 3'tür
OLLAMA_MODELS	Linux'ta modeller /usr/share/ollama/.ollama/models içinde saklanır; başka bir dizin kullanmak için bu değişkeni ayarlayın ve ollama kullanıcısına o dizinde okuma ve yazma erişimi verin, örneğin sudo chown -R ollama:ollama <directory> ile

Model dosyaları büyüktür (Qwen3 8B indirmesi 5.2 GB, 14B ise 9.3 GB'tır); bu yüzden birkaç model indirmeden önce VPS'in boş disk alanını kontrol edin.

Dışarıdan erişim

SSS sayfası, Ollama'nın bir HTTP sunucusu çalıştırdığını ve Nginx gibi bir proxy sunucusu kullanılarak erişime açılabileceğini söyler. Verdiği örnek 80 numaralı portu dinler, bir server_name belirler, istekleri proxy_pass http://localhost:11434 ile iletir ve Host başlığını localhost:11434 olarak ayarlar.

Kontrol ettiğimiz SSS sayfası, Ollama sunucusu için herhangi bir kimlik doğrulamayı anlatmıyor. Önerimiz, belgelerin bir ifadesi değil: varsayılan adresi koruyun ve sunucuya bir SSH tüneli üzerinden erişin; önüne bir proxy koyarsanız kimlik doğrulamayı ve HTTPS'i orada ekleyin ve güvenlik duvarında portu yalnızca kullandığınız adreslerle sınırlayın.

Güncelleme, kontrol ve kaldırma

Kurulum betiğini yeniden çalıştırarak ya da elle kurulum adımlarıyla tar paketini yeniden indirerek güncelleyin.
Belirli bir sürümü kurmak için betiğin önüne OLLAMA_VERSION değerini koyun, örneğin curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh. Sürüm numaraları GitHub sürümler (releases) sayfasındadır.
Kütüphaneden bir model çalıştırmak için sayfasında gösterilen komutu kullanın, örneğin ollama run qwen3:4b.
Servisi kaldırmak için sudo systemctl stop ollama ve sudo systemctl disable ollama komutlarını çalıştırın, ardından birim dosyasını silin. Belgeler ayrıca kütüphanelerin, ikili dosyanın ve /usr/share/ollama içindeki modellerin, kullanıcının ve grubun kaldırılmasını da listeler.