toolkitbox

~/ / KI-Artikel / Lokale LLMs auf einem VPS / Open WebUI auf einem VPS: in Docker betreiben und mit Ollama verbinden

Open WebUI auf einem VPS: in Docker betreiben und mit Ollama verbinden

Ein Chatfenster im Browser ist der einfachste Weg, ein Modell zu nutzen, das auf dem eigenen Server läuft. Open WebUI ist eine solche Oberfläche, und seine Dokumentation zeigt, wie man sie mit Docker startet und mit Ollama verbindet. Dieser Artikel folgt dem offiziellen Schnellstart und den Verbindungsanleitungen Schritt für Schritt und weist darauf hin, wo die beiden Anleitungen die Verbindung unterschiedlich beschreiben.

Veröffentlicht: · 4 Min. Lesezeit · Abgeglichen mit der offiziellen Open-WebUI-Dokumentation am 2026-10-26. Befehle, Image-Tags und Einstellungen ändern sich zwischen den Versionen. Prüfen Sie sie daher in den aktuellen Dokumenten, bevor Sie etwas auf einem Server ausführen.

Zuerst den Arbeitsspeicher prüfen

Open WebUI ist ein zusätzliches Programm auf demselben Server, und die Dokumentation nennt dafür keinen Speicherwert. Das Standard-Image mit dem Tag main enthält laut Schnellstart mitgelieferte Modelle für Spracherkennung und Embeddings. Schätzen Sie zuerst den Speicherbedarf Ihres Modells ab und lassen Sie Platz für die Oberfläche und das Betriebssystem.

Ausprobieren: Local LLM Memory Estimator

Modell

Ollama-Tag qwen3:8b, Quantisierung Q4_K_M, Download-Größe 5.2 GB.

Schätzung

Modellgewichte
4.84 GiB
KV-Cache
0.56 GiB
Reserve
1.00 GiB
Summe
6.41 GiB (6.88 GB)
Kleinste gängige Speichergröße, die dafür reicht
8 GiB

Dies ist eine Schätzung. Die Rechenpuffer der Laufzeitumgebung sind nicht enthalten, und es wird angenommen, dass jede Schicht dieselbe KV-Form hat. Messen Sie einen echten Lauf, bevor Sie einen Tarif wählen.

Modelldaten geprüft am 2026-10-26.

Quellen: Ollama library · Modellkonfiguration (config.json) · Ollama FAQ

Alles läuft in Ihrem Browser. Nichts wird hochgeladen.

Mit Docker starten

Der Schnellstart stellt Open WebUI unter http://localhost:3000 bereit und startet es mit einem einzigen docker run-Befehl. Ersetzen Sie your-secret-key durch einen Wert, den Sie selbst erzeugen, zum Beispiel mit dem Befehl, den die Anleitung dafür angibt.

SchrittBefehl
Geheimen Schlüssel erzeugenopenssl rand -hex 32
Open WebUI startendocker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:main
Logs verfolgendocker logs -f open-webui
  • -p 3000:8080 bildet Port 3000 des Hosts auf Port 8080 des Containers ab.
  • Das Volume open-webui enthält Ihre Chats, Benutzer und Einstellungen. Laut Anleitung übersteht es Updates, und man solle nie ohne es starten.
  • WEBUI_SECRET_KEY: Laut Anleitung setzen Sie ihn einmal und behalten ihn bei, denn ohne festen Schlüssel werden bei jedem neu erstellten Container alle abgemeldet, und ein neuer Schlüssel meldet ebenfalls alle ab.
  • Die Image-Tags: main ist das Standard-Image, cuda ergänzt NVIDIA-GPU-Unterstützung und erfordert --gpus all, und ollama bringt Ollama im selben Container mit.

Das erste Konto ist der Administrator

Auf dem ersten Bildschirm wird angeboten, ein Admin-Konto anzulegen. Laut Anleitung ist dieses erste Konto der Administrator, der Benutzer und alle instanzweiten Einstellungen verwaltet, und die Registrierung schaltet sich ab, sobald das Admin-Konto existiert.

Unsere Empfehlung, keine Aussage der Dokumente: Legen Sie das Admin-Konto direkt nach dem Start des Containers an, bevor Sie jemandem die Adresse nennen, denn wer die Seite zuerst erreicht, kann es anlegen.

Mit Ollama verbinden: zwei Wege in der Dokumentation

Die Open-WebUI-Seiten, die wir geprüft haben, beschreiben die Verbindung auf zwei verschiedene Arten. Verwenden Sie die Seite, die zu Ihrer laufenden Version passt, und prüfen Sie unter Einstellungen, Admin, Verbindungen, welchen Typ Ihre Version anbietet.

VerbindungWas die Seite sagt
Ollama-API-ProtokollUnter Einstellungen > Admin > Verbindungen, Ollama-API-Verbindungen verwalten. Die Seite nennt 11434 als typischen Port und sagt, dass Sie http://host.docker.internal:11434 verwenden sollen, wenn Open WebUI in Docker und Ollama auf dem Host läuft.
Verbindung vom Typ OpenAIFügen Sie eine Verbindung vom Typ OpenAI mit der Basis-URL http://localhost:11434/v1 und einem beliebigen Text als API-Schlüssel hinzu. Die Seite sagt, Ollama prüfe den Schlüssel nicht, das Feld dürfe aber nicht leer sein, und dass die Eingabe von ollama funktioniere.
  • Heruntergeladene Modelle werden automatisch erkannt und erscheinen in der Modellauswahl. Sie können sie mit einer kommagetrennten Liste einschränken.
  • Sie können mehrere Ollama-Instanzen hinzufügen. Die Seite sagt, Anfragen würden per Zufallsauswahl verteilt, Modell-IDs müssten über alle Instanzen hinweg exakt übereinstimmen, und ein Präfix wie remote/ unterscheide Instanzen mit gleichen Modellnamen.
  • Bei einem langsamen oder nicht erreichbaren Endpunkt schlägt die Seite vor, AIOHTTP_CLIENT_TIMEOUT_MODEL_LIST=3 zu setzen (der Standardwert ist 10 Sekunden), damit der Failover schneller greift.
  • Wenn die Verbindung fehlschlägt, nennt die Seite eine fehlerhafte Netzwerkkonfiguration als häufigste Ursache und verweist auf ihre Anleitung zur Fehlersuche.

Die Seiten, die wir geprüft haben, sagen nicht, ob ein Container einen Ollama erreichen kann, der nur auf 127.0.0.1 lauscht, und sie behandeln nicht, wie man die Adresse von Ollama erweitert. Ollama bindet laut seiner FAQ standardmäßig an 127.0.0.1. Unsere Empfehlung: Öffnen Sie Ollama nicht für das gesamte Netzwerk, ohne eine Firewall-Regel, die den Zugriff auf die von Ihnen verwendeten Adressen beschränkt.

Aktualisieren und entfernen

AufgabeBefehle aus dem Schnellstart
Manuell aktualisierendocker rm -f open-webui, dann docker pull ghcr.io/open-webui/open-webui:main, dann derselbe docker run-Befehl wie zuvor
Mit Watchtower aktualisierendocker run --rm --volume /var/run/docker.sock:/var/run/docker.sock nickfedor/watchtower --run-once open-webui
Deinstallierendocker rm -f open-webui, dann docker rmi ghcr.io/open-webui/open-webui:main, dann docker volume rm open-webui

Wenn Sie das Volume entfernen, werden Ihre Chats, Benutzer und Einstellungen gelöscht. Laut Anleitung liegen Ihre Daten im Volume, behalten Sie es daher beim Aktualisieren.

Privat halten

  • Der Schnellstart zeigt eine Variante mit WEBUI_AUTH=False. Unsere Empfehlung, keine Aussage der Dokumente: Verwenden Sie sie nicht auf einem Server, den jeder erreichen kann.
  • Schalten Sie HTTPS und eine Firewall-Regel vor Port 3000, bevor Sie die Adresse weitergeben, und halten Sie den geheimen Schlüssel aus allem heraus, was Sie committen.
  • Der Schnellstart zeigt außerdem, wie Sie Open WebUI mit OLLAMA_BASE_URL auf einen anderen Server richten. Wenn Sie das tun, behandeln Sie diese Verbindung ebenfalls als Teil Ihres privaten Netzwerks.

Quellen

Als Nächstes lesen