~/ / Artikel AI / LLM lokal di VPS / Open WebUI di VPS: jalankan dengan Docker dan hubungkan ke Ollama
Open WebUI di VPS: jalankan dengan Docker dan hubungkan ke Ollama
Jendela obrolan di browser adalah cara termudah untuk memakai model yang berjalan di server Anda sendiri. Open WebUI adalah salah satu antarmuka semacam itu, dan dokumentasinya menunjukkan cara menjalankannya dengan Docker serta menghubungkannya ke Ollama. Artikel ini mengikuti panduan memulai cepat dan panduan koneksi resmi, langkah demi langkah, dan mencatat di mana kedua panduan itu menjelaskan koneksi dengan cara yang berbeda.
Terbit: · 4 menit baca · Diperiksa terhadap dokumentasi resmi Open WebUI pada 2026-10-26. Perintah, tag image, dan pengaturan berubah antarversi, jadi pastikan lagi di dokumen terbaru sebelum Anda menjalankan apa pun di server.
Periksa memori terlebih dahulu
Open WebUI adalah program tambahan di server yang sama, dan dokumentasi tidak memberikan angka memori untuknya. Menurut panduan memulai cepat, image standar dengan tag main menyertakan model speech-to-text dan embedding bawaan. Perkirakan dahulu memori untuk model Anda, dan sisakan ruang untuk antarmuka serta sistem operasi.
Coba sekarang: Local LLM Memory Estimator
Perkiraan
- Bobot model
- 4.84 GiB
- KV cache
- 0.56 GiB
- Cadangan
- 1.00 GiB
- Total
- 6.41 GiB (6.88 GB)
- Ukuran memori umum terkecil yang cukup
- 8 GiB
Ini hanya perkiraan. Buffer komputasi milik runtime tidak ikut dihitung, dan dianggap setiap layer memiliki bentuk KV yang sama. Ukur proses yang sungguh dijalankan sebelum Anda memilih paket.
Data model diperiksa pada 2026-10-26.
Sumber: Ollama library · Konfigurasi model (config.json) · Ollama FAQ
Semuanya berjalan di browser Anda. Tidak ada yang diunggah.
Jalankan dengan Docker
Panduan memulai cepat menyajikan Open WebUI di http://localhost:3000 dan menjalankannya dengan satu perintah docker run. Ganti your-secret-key dengan nilai yang Anda buat sendiri, misalnya dengan perintah yang diberikan panduan untuk itu.
| Langkah | Perintah |
|---|---|
| Buat kunci rahasia | openssl rand -hex 32 |
| Jalankan Open WebUI | docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:main |
| Pantau log | docker logs -f open-webui |
- -p 3000:8080 memetakan port 3000 pada host ke port 8080 pada container.
- Volume open-webui menyimpan obrolan, pengguna, dan pengaturan Anda. Panduan menyebutkan bahwa volume ini bertahan setelah pembaruan dan Anda tidak boleh menjalankannya tanpa volume ini.
- WEBUI_SECRET_KEY: panduan menyuruh mengaturnya sekali lalu mempertahankannya, karena tanpa kunci yang tetap setiap container yang dibuat ulang akan mengeluarkan semua orang dari sesi, dan kunci baru juga mengeluarkan semua orang.
- Tag image: main adalah image standar, cuda menambahkan dukungan GPU NVIDIA dan memerlukan --gpus all, dan ollama menyertakan Ollama di dalam container yang sama.
Akun pertama adalah administrator
Layar pertama menawarkan untuk membuat akun admin. Menurut panduan, akun pertama itu adalah administrator, yang mengelola pengguna dan semua pengaturan tingkat instans, dan pendaftaran mati dengan sendirinya setelah akun admin ada.
Rekomendasi kami, bukan pernyataan dari dokumen: buat akun admin segera setelah container berjalan, sebelum Anda memberi tahu siapa pun alamatnya, karena siapa pun yang pertama membuka halaman itu dapat membuatnya.
Hubungkan ke Ollama: dua cara dalam dokumentasi
Halaman Open WebUI yang kami periksa menjelaskan koneksi dengan dua cara yang berbeda. Gunakan halaman yang sesuai dengan versi yang Anda jalankan, dan pastikan jenis mana yang ditawarkan versi Anda di Pengaturan, Admin, Koneksi.
| Koneksi | Isi halaman |
|---|---|
| Protokol Ollama API | Di Pengaturan > Admin > Koneksi, Kelola Koneksi Ollama API. Halaman ini menyebut port 11434 sebagai port yang umum, dan menyuruh memakai http://host.docker.internal:11434 ketika Open WebUI berjalan di Docker dan Ollama berjalan di host. |
| Koneksi jenis OpenAI | Tambahkan koneksi berjenis OpenAI dengan Base URL http://localhost:11434/v1 dan teks apa saja sebagai kunci API. Halaman ini menyebut bahwa Ollama tidak memeriksa kunci tersebut, tetapi kolomnya tidak boleh kosong, dan mengetik ollama dapat dipakai. |
- Model yang sudah di-pull ditemukan secara otomatis dan muncul di pemilih model. Anda dapat membatasinya dengan daftar yang dipisahkan koma.
- Anda dapat menambahkan beberapa instans Ollama. Halaman ini menyebut bahwa permintaan dibagi dengan pemilihan acak, ID model harus sama persis di semua instans, dan awalan seperti remote/ membedakan instans yang memiliki nama model yang sama.
- Untuk endpoint yang lambat atau tidak dapat dijangkau, halaman ini menyarankan untuk mengatur AIOHTTP_CLIENT_TIMEOUT_MODEL_LIST=3 (bawaannya 10 detik) agar failover lebih cepat.
- Jika koneksi gagal, halaman ini menyebut kesalahan konfigurasi jaringan sebagai penyebab paling umum dan menunjuk ke panduan pemecahan masalahnya.
Halaman yang kami periksa tidak menyebutkan apakah sebuah container dapat menjangkau Ollama yang hanya mendengarkan di 127.0.0.1, dan tidak membahas cara memperluas alamat Ollama. Menurut FAQ-nya, Ollama secara bawaan terikat ke 127.0.0.1. Rekomendasi kami: jangan buka Ollama ke seluruh jaringan tanpa aturan firewall yang membatasinya ke alamat yang Anda pakai.
Perbarui dan hapus
| Tugas | Perintah dari panduan memulai cepat |
|---|---|
| Perbarui secara manual | docker rm -f open-webui, lalu docker pull ghcr.io/open-webui/open-webui:main, lalu perintah docker run yang sama seperti sebelumnya |
| Perbarui dengan Watchtower | docker run --rm --volume /var/run/docker.sock:/var/run/docker.sock nickfedor/watchtower --run-once open-webui |
| Copot pemasangan | docker rm -f open-webui, lalu docker rmi ghcr.io/open-webui/open-webui:main, lalu docker volume rm open-webui |
Menghapus volume berarti menghapus obrolan, pengguna, dan pengaturan Anda. Panduan menyebutkan bahwa data Anda ada di dalam volume, jadi pertahankan volume itu saat memperbarui.
Jaga agar tetap privat
- Panduan memulai cepat menampilkan varian dengan WEBUI_AUTH=False. Rekomendasi kami, bukan pernyataan dari dokumen: jangan memakainya di server yang dapat dijangkau siapa pun.
- Pasang HTTPS dan aturan firewall di depan port 3000 sebelum Anda membagikan alamatnya, dan jangan sertakan kunci rahasia dalam apa pun yang Anda commit.
- Panduan memulai cepat juga menunjukkan cara mengarahkan Open WebUI ke server lain dengan OLLAMA_BASE_URL. Jika Anda melakukannya, perlakukan koneksi itu juga sebagai bagian dari jaringan privat Anda.
Sumber
Baca selanjutnya
- Pasang nginx di depan Ollama: autentikasi dasar, HTTPS, dan pengaturan streamingMengakses Ollama dari luar dengan aman: nginx sebagai proxy, autentikasi dasar, HTTPS, pengaturan streaming dan timeout, serta aturan firewall, berdasarkan dokumentasi resmi.
- Memanggil model lokal dari kode Anda: structured outputs dan API yang kompatibel dengan OpenAI di OllamaBatasi keluaran model lokal dengan JSON Schema dan panggil Ollama dari klien bergaya OpenAI: apa kata dokumentasi resmi, dan apa saja yang tidak didukung.
- Apa saja yang bisa dilakukan model lokal? Tools, thinking, vision, dan embedding di Ollama, serta apa yang muat di VPSTools, thinking, vision, embedding: arti label di pustaka Ollama, model mana yang membawanya, dan seberapa besar unduhannya.
- Memasang Ollama di VPS dan menjaganya tetap berjalan: instalasi, layanan systemd, pengaturan, dan pembaruanPasang Ollama di VPS Linux dan jaga tetap berjalan: perintah instalasi, layanan systemd, variabel lingkungan, penyimpanan model, dan pembaruan, dari dokumentasi resmi.