~/tools / Yerel LLM'i kendi sunucunuzda çalıştırın / Ollama systemd Override Generator

Ollama systemd Override Generator — Ollama için systemd geçersiz kılma dosyası oluşturun: OLLAMA_HOST, OLLAMA_MODELS, KEEP_ALIVE ve daha fazlası

Bir Linux sunucusunda Ollama'nın ortam değişkenlerini ayarlayan systemd geçersiz kılmasını (override) oluşturun: dinleme adresi, model dizini, modellerin bellekte ne kadar kalacağı, bağlam uzunluğu, paralel istekler, Flash Attention, K/V önbellek türü, ek origin'ler, yalnızca yerel mod ve bir HTTPS vekil sunucusu. Her değişken resmî Ollama SSS belgesinden gelir ve her değer systemd'nin okuduğu biçimde tırnak içine alınır. Hiçbir veri tarayıcınızdan çıkmaz.

Ortam değişkenleri

Boş alanlar yazılmaz. Gri metin, Ollama SSS'de verilen varsayılandır.

OLLAMA_HOSTOllama'nın dinlediği adres ve portOLLAMA_MODELSModel dosyaları için dizin; ollama kullanıcısının okuma ve yazma erişimi olmalıOLLAMA_KEEP_ALIVEBir modelin bellekte ne kadar kalacağı: 10m, 24h, 3600 (saniye), tutmak için -1, hemen boşaltmak için 0OLLAMA_CONTEXT_LENGTHVarsayılan bağlam penceresi, token cinsindenOLLAMA_NUM_PARALLELModel başına paralel istek; bellek kullanımı bu sayı çarpı bağlam uzunluğu kadar artarOLLAMA_MAX_LOADED_MODELSSığıyorsa aynı anda yüklü modeller (CPU çıkarımında 3)OLLAMA_MAX_QUEUEMeşgulken kuyruğa alınan istekler; sonrakiler 503 ile reddedilirOLLAMA_FLASH_ATTENTIONDestekleniyorsa otomatik kullanılır; 1 zorla açar, 0 kapatırOLLAMA_KV_CACHE_TYPEFlash Attention açıkken q8_0, f16'nın yaklaşık yarısı kadar, q4_0 ise yaklaşık dörtte biri kadar bellek kullanırOLLAMA_ORIGINSOllama'yı çağırmasına izin verilen ek web origin'leri, virgülle ayrılmışOLLAMA_NO_CLOUDOllama'nın bulut modelleri ve web araması olmadan yalnızca yerel modOLLAMA_NO_CLOUD=1 olarak ayarlaHTTPS_PROXYModel indirmeleri için vekil sunucu

systemctl edit için geçersiz kılma dosyası

Bunu, sudo systemctl edit ollama.service komutunun açtığı düzenleyicide iki yorum satırının arasına yapıştırın. /etc/systemd/system/ollama.service.d/override.conf olarak kaydedilir.

[Service]
Environment="OLLAMA_KEEP_ALIVE=10m"
Environment="OLLAMA_CONTEXT_LENGTH=8192"
Environment="OLLAMA_MAX_LOADED_MODELS=1"
Environment="OLLAMA_NO_CLOUD=1"

Komutlar

Bunları sunucuda bu sırayla çalıştırın. Sonuncusu hizmetin aldığı değişkenleri gösterir. OLLAMA_MODELS değerini değiştirirseniz ilk ikisi dizini oluşturur ve ollama kullanıcısına verir; mkdir -p bizim eklememizdir, çünkü chown var olmayan bir dizinde başarısız olur.

sudo systemctl edit ollama.service
sudo systemctl daemon-reload
sudo systemctl restart ollama
systemctl show ollama --property=Environment

Değişkenler ve varsayılanlar Ollama SSS'de verildiği gibidir, tırnak kuralları systemd.exec kılavuzundandır; 2026-11-03 tarihinde denetlendi. Ollama SSS / systemd.exec: Environment=

Her şey tarayıcınızda yapılır. Girdiğiniz hiçbir şey herhangi bir yere gönderilmez.

Ollama Linux'ta bir systemd hizmeti olarak çalışırken resmî SSS, ortam değişkenlerini systemctl edit ollama.service ile ayarlamanızı söyler: [Service] altına her değişken için bir Environment satırı ekleyin, kaydedin, ardından systemctl daemon-reload ve systemctl restart ollama komutlarını çalıştırın. Adımlar kısadır, ancak ayrıntılarda yanlış yapmak kolaydır. systemd belirteçleri (specifier) genişletir, bu yüzden bir % işareti %% olarak yazılmalıdır; tırnak içindeki bir atamada ters eğik çizgi veya çift tırnak kaçış olarak okunur; boşluk içeren bir değer de bütün olarak tırnak içine alınmalıdır. Bu araç geçersiz kılma dosyasını sizin için yazar. Yalnızca SSS'de belgelenen değişkenleri sunar, her birinin yanında belgelenmiş varsayılan değeri gösterir, her atamayı "NAME=value" biçiminde tırnak içine alır ve % işaretlerini ikiye katlar. Bir değer Ollama'nın tüm ağ arayüzlerini dinlemesine yol açacaksa, bir sayı tam sayı değilse ve Flash Attention kapalıyken nicemlenmiş bir K/V önbelleği seçilmişse uyarır. Çıktıyı systemd 255 ile Ubuntu 24.04'te test ettik: systemctl edit içine yapıştırdık ve hizmetin boşluklar, $, ' ve % dahil her değeri değişmeden aldığını doğruladık.

Bu aracın temel mantığı MIT lisansıyla açık kaynaktır. github.com/seigo5555/toolkitbox-lib/src/ollama-systemd.ts

Kullanım örnekleri

Küçük bir VPS'te OLLAMA_KEEP_ALIVE ile bir modeli bellekte daha uzun tutmak veya daha erken boşaltmak
OLLAMA_MODELS ile model dosyalarını daha büyük bir diske taşımak
Ollama'yı tek bir yüklü modelle sınırlamak ve belleği az bir sunucu için varsayılan bağlam uzunluğunu ayarlamak

Nasıl kullanılır

Yalnızca değiştirmek istediğiniz değişkenleri doldurun. Boş alanlar çıktıya yazılmaz, böylece Ollama varsayılanlarını korur. Her alandaki gri metin, SSS'nin verdiği varsayılandır.
Uyarıları okuyun. 127.0.0.1 veya localhost dışındaki bir dinleme adresi Ollama'yı başka makinelerden erişilebilir kılar ve SSS bunun için herhangi bir kimlik doğrulama tanımlamaz.
sudo systemctl edit ollama.service komutunu çalıştırın, metni düzenleyicide iki yorum satırının arasına yapıştırın, kaydedin ve çıkın. Ardından kalan komutları çalıştırarak systemd'yi yeniden yükleyin, Ollama'yı yeniden başlatın ve aldığı değerleri denetleyin.

SSS

Dosya nereye kaydedilir?

systemctl edit onu bir drop-in dosyası olarak /etc/systemd/system/ollama.service.d/override.conf yoluna kaydeder ve ana unit dosyasını değiştirmez. Ubuntu 24.04'te çalıştırdığımızda düzenleyici ### Anything between here and the comment below will become the contents of the drop-in file yorumunu gösterdi. Metni bu yorumla altındaki yorumun arasına yapıştırın.

Neden her değer çift tırnak içine alınıyor?

systemd belgeleri, boşluk veya eşittir işareti içeren bir değerde atamanın tamamının tırnak içine alınması gerektiğini söyler. Her satırı aynı biçimde tırnak içine almak, boşluk içeren yolları ve OLLAMA_ORIGINS gibi listeleri bozulmadan korur. Belgeler ayrıca $ işaretinin orada özel bir anlamı olmadığını, bu yüzden olduğu gibi aktarıldığını, % işaretinin ise bir belirteç başlattığını söyler; bu nedenle araç düz bir % için %% yazar.

Hangi karakterler kabul edilmez?

Çift tırnak, ters eğik çizgi ve sekme gibi denetim karakterleri. Tırnak içindeki bir atamada systemd bunları kaçış olarak okur veya reddeder, bu yüzden değer Ollama'ya yazdığınız gibi ulaşmaz. Araç bunları hata olarak bildirir ve o satırı çıktıya yazmaz.

OLLAMA_HOST değerini 0.0.0.0 yapmak güvenli mi?

Ollama'nın tüm ağ arayüzlerini dinlemesini sağlar, böylece diğer makineler ona erişebilir. SSS, Ollama'nın varsayılan olarak 127.0.0.1 adresinin 11434 numaralı portuna bağlandığını söyler ve sunucu için herhangi bir kimlik doğrulama tanımlamaz. Önerimiz, belgelerde yazan bir ifade değil: varsayılanı koruyun ve Ollama'ya bir SSH tüneli veya parola ve HTTPS'li bir vekil sunucu üzerinden ulaşın, 11434 numaralı portu da güvenlik duvarında sınırlayın.

HTTPS_PROXY içine parola koyabilir miyim?

Vekil sunucu adresi bir kullanıcı adı ve parola içeriyorsa araç uyarır. systemd belgeleri, bir unit için ayarlanan değerler ayrıcalıksız istemciler tarafından okunabildiği için ortam değişkenlerinin gizli bilgileri aktarmaya uygun olmadığını söyler. SSS ayrıca HTTP_PROXY ayarlamaktan kaçınmayı söyler, çünkü Ollama modelleri yalnızca HTTPS üzerinden çeker ve HTTP_PROXY istemci bağlantılarını kesebilir; bu yüzden araç yalnızca HTTPS_PROXY sunar.