toolkitbox

~/ / Yapay zeka makaleleri / VPS'te yerel LLM / VPS üzerinde Open WebUI: Docker ile çalıştırın ve Ollama'ya bağlayın

VPS üzerinde Open WebUI: Docker ile çalıştırın ve Ollama'ya bağlayın

Kendi sunucunuzda çalışan bir modeli kullanmanın en kolay yolu tarayıcıdaki bir sohbet penceresidir. Open WebUI bu tür arayüzlerden biridir ve belgeleri onu Docker ile nasıl başlatacağınızı ve Ollama'ya nasıl bağlayacağınızı gösterir. Bu yazı resmi hızlı başlangıç kılavuzunu ve bağlantı kılavuzlarını adım adım izler; iki kılavuzun bağlantıyı farklı anlattığı yerleri de belirtir.

Yayın: · 4 dk okuma · Resmi Open WebUI belgelerine göre 2026-10-26 tarihinde kontrol edildi. Komutlar, imaj etiketleri ve ayarlar sürümler arasında değişir; bir sunucuda herhangi bir şey çalıştırmadan önce bunları güncel belgelerden doğrulayın.

Önce belleği kontrol edin

Open WebUI aynı sunucuda çalışan ek bir programdır ve belgeler onun için bir bellek değeri vermez. Hızlı başlangıç kılavuzuna göre main etiketli standart imaj, yerleşik konuşmadan metne ve gömme (embedding) modelleri içerir. Önce modelinizin belleğini tahmin edin ve arayüz ile işletim sistemi için de pay bırakın.

Deneyin: Local LLM Memory Estimator

Model

Ollama etiketi qwen3:8b, nicemleme Q4_K_M, indirme boyutu 5.2 GB.

Tahmin

Model ağırlıkları
4.84 GiB
KV önbelleği
0.56 GiB
Ayrılan pay
1.00 GiB
Toplam
6.41 GiB (6.88 GB)
Toplamı karşılayan en küçük yaygın bellek boyutu
8 GiB

Bu bir tahmindir. Çalışma zamanının hesaplama arabelleklerini içermez ve her katmanın aynı KV yapısına sahip olduğunu varsayar. Bir plan seçmeden önce gerçek bir çalıştırmayı ölçün.

Model verileri 2026-10-26 tarihinde kontrol edildi.

Kaynaklar: Ollama library · Model yapılandırması (config.json) · Ollama FAQ

Her şey tarayıcınızda çalışır. Hiçbir şey yüklenmez.

Docker ile başlatın

Hızlı başlangıç kılavuzu Open WebUI'yi http://localhost:3000 adresinde sunar ve tek bir docker run komutuyla çalıştırır. your-secret-key yerine kendinizin ürettiği bir değer yazın; örneğin kılavuzun bunun için verdiği komutla üretebilirsiniz.

AdımKomut
Gizli anahtar üretinopenssl rand -hex 32
Open WebUI'yi başlatındocker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:main
Günlükleri izleyindocker logs -f open-webui
  • -p 3000:8080, ana makinenin 3000 numaralı portunu konteynerin 8080 numaralı portuna eşler.
  • open-webui birimi (volume) sohbetlerinizi, kullanıcılarınızı ve ayarlarınızı tutar. Kılavuz, birimin güncellemelerden etkilenmediğini ve onsuz asla çalıştırmamanız gerektiğini söyler.
  • WEBUI_SECRET_KEY: kılavuz, bunu bir kez ayarlayıp saklamanızı söyler; çünkü sabit bir anahtar olmadan yeniden oluşturulan her konteyner herkesin oturumunu kapatır ve yeni bir anahtar da herkesin oturumunu kapatır.
  • İmaj etiketleri: main standart imajdır, cuda NVIDIA GPU desteği ekler ve --gpus all gerektirir, ollama ise Ollama'yı aynı konteynerin içine dahil eder.

İlk hesap yöneticidir

İlk ekran bir yönetici hesabı oluşturmayı önerir. Kılavuza göre bu ilk hesap, kullanıcıları ve örnek genelindeki tüm ayarları yöneten yöneticidir; yönetici hesabı oluşturulduktan sonra kayıt kendiliğinden kapanır.

Belgelerdeki bir ifade değil, bizim önerimiz: sayfaya ilk ulaşan kişi hesabı oluşturabileceği için, adresi kimseye söylemeden önce, konteyner başlar başlamaz yönetici hesabını oluşturun.

Ollama'ya bağlayın: belgelerde iki yol

Kontrol ettiğimiz Open WebUI sayfaları bağlantıyı iki farklı şekilde anlatır. Çalıştırdığınız sürüme uyan sayfayı kullanın ve sürümünüzün hangi türü sunduğunu Ayarlar, Yönetici, Bağlantılar bölümünden doğrulayın.

BağlantıSayfa ne diyor
Ollama API protokolüAyarlar > Yönetici > Bağlantılar altında, Ollama API Bağlantılarını Yönet. Sayfa tipik port olarak 11434'ü verir ve Open WebUI Docker'da, Ollama ise ana makinede çalışıyorsa http://host.docker.internal:11434 adresinin kullanılmasını söyler.
OpenAI türü bağlantıTemel URL (Base URL) olarak http://localhost:11434/v1 ve API anahtarı olarak herhangi bir metinle OpenAI türünde bir bağlantı ekleyin. Sayfa, Ollama'nın anahtarı denetlemediğini ama alanın boş bırakılamayacağını ve ollama yazmanın işe yaradığını söyler.
  • İndirilmiş (pull edilmiş) modeller otomatik olarak bulunur ve model seçicide görünür. Bunları virgülle ayrılmış bir listeyle sınırlayabilirsiniz.
  • Birden fazla Ollama örneği ekleyebilirsiniz. Sayfa, isteklerin rastgele seçimle dağıtıldığını, model kimliklerinin örnekler arasında tam olarak eşleşmesi gerektiğini ve remote/ gibi bir önekin aynı model adlarına sahip örnekleri birbirinden ayırdığını söyler.
  • Yavaş veya erişilemeyen bir uç nokta için sayfa, daha hızlı yedeğe geçiş amacıyla AIOHTTP_CLIENT_TIMEOUT_MODEL_LIST=3 ayarlanmasını önerir (varsayılan 10 saniyedir).
  • Bağlantı başarısız olursa sayfa en yaygın nedenin ağ yapılandırması hatası olduğunu belirtir ve sorun giderme kılavuzuna yönlendirir.

Kontrol ettiğimiz sayfalar, yalnızca 127.0.0.1 üzerinde dinleyen bir Ollama'ya konteynerin ulaşıp ulaşamayacağını söylemez ve Ollama'nın adresinin genişletilmesini de ele almaz. Ollama'nın SSS sayfasına göre Ollama varsayılan olarak 127.0.0.1'e bağlanır. Bizim önerimiz: Ollama'yı, yalnızca kullandığınız adreslerle sınırlayan bir güvenlik duvarı kuralı olmadan tüm ağa açmayın.

Güncelleme ve kaldırma

GörevHızlı başlangıç kılavuzundaki komutlar
Elle güncellemedocker rm -f open-webui, ardından docker pull ghcr.io/open-webui/open-webui:main, ardından önceki docker run komutunun aynısı
Watchtower ile güncellemedocker run --rm --volume /var/run/docker.sock:/var/run/docker.sock nickfedor/watchtower --run-once open-webui
Kaldırmadocker rm -f open-webui, ardından docker rmi ghcr.io/open-webui/open-webui:main, ardından docker volume rm open-webui

Birimi silmek sohbetlerinizi, kullanıcılarınızı ve ayarlarınızı siler. Kılavuz, verilerinizin birimde olduğunu söyler; bu yüzden güncelleme yaparken birimi koruyun.

Özel tutun

  • Hızlı başlangıç kılavuzu WEBUI_AUTH=False içeren bir varyant gösterir. Belgelerdeki bir ifade değil, bizim önerimiz: bunu herkesin ulaşabileceği bir sunucuda kullanmayın.
  • Adresi paylaşmadan önce 3000 numaralı portun önüne HTTPS ve bir güvenlik duvarı kuralı koyun ve gizli anahtarı commit ettiğiniz hiçbir şeyin içinde tutmayın.
  • Hızlı başlangıç kılavuzu ayrıca Open WebUI'yi OLLAMA_BASE_URL ile başka bir sunucuya nasıl yönlendireceğinizi de gösterir. Bunu yaparsanız o bağlantıyı da özel ağınızın bir parçası olarak ele alın.

Kaynaklar

Sırada ne okunmalı