~/ / Artikel AI / LLM lokal di VPS / Memasang Ollama di VPS dan menjaganya tetap berjalan: instalasi, layanan systemd, pengaturan, dan pembaruan
Memasang Ollama di VPS dan menjaganya tetap berjalan: instalasi, layanan systemd, pengaturan, dan pembaruan
Setelah Anda tahu bahwa sebuah model muat di memori VPS Anda, memasang Ollama hanya butuh beberapa perintah. Yang lebih perlu perhatian adalah menjaganya tetap berjalan: menjalankannya saat boot, mengatur variabel lingkungannya, menentukan tempat file model yang besar disimpan, dan memperbaruinya nanti. Artikel ini menelusuri dokumentasi resmi Ollama untuk Linux dan FAQ-nya, langkah demi langkah.
Terbit: · 4 menit baca · Diperiksa terhadap dokumentasi resmi Ollama pada 2026-10-26. Perintah dan nilai bawaan bisa berubah, jadi pastikan lagi di dokumen terbaru sebelum menjalankan apa pun di server.
Periksa memori terlebih dahulu
Model yang tidak muat di memori server Anda tidak akan berjalan dengan baik, dan mengunduhnya lebih dulu hanya membuang waktu dan ruang disk. Perkirakan memorinya sebelum memasang apa pun: file model, ditambah KV cache untuk panjang konteks yang ingin Anda pakai, ditambah cadangan untuk sistem operasi.
Coba sekarang: Local LLM Memory Estimator
Perkiraan
- Bobot model
- 4.84 GiB
- KV cache
- 0.56 GiB
- Cadangan
- 1.00 GiB
- Total
- 6.41 GiB (6.88 GB)
- Ukuran memori umum terkecil yang cukup
- 8 GiB
Ini hanya perkiraan. Buffer komputasi milik runtime tidak ikut dihitung, dan dianggap setiap layer memiliki bentuk KV yang sama. Ukur proses yang sungguh dijalankan sebelum Anda memilih paket.
Data model diperiksa pada 2026-10-26.
Sumber: Ollama library · Konfigurasi model (config.json) · Ollama FAQ
Semuanya berjalan di browser Anda. Tidak ada yang diunggah.
Instalasi
Dokumentasi Ollama untuk Linux menyediakan perintah instalasi satu baris dan instalasi manual. Baca skrip sebelum Anda mengalirkannya ke shell di server yang penting; skripnya ada di alamat yang tertera pada perintah.
| Cara | Perintah atau langkah |
|---|---|
| Skrip instalasi | curl -fsSL https://ollama.com/install.sh | sh |
| Manual: hapus pustaka lama saat meningkatkan versi | sudo rm -rf /usr/lib/ollama |
| Manual: unduh dan ekstrak | curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst | sudo tar x -C /usr |
| Manual: jalankan server | ollama serve |
| Periksa apakah sudah berjalan (di terminal lain) | ollama -v |
Untuk server ARM64, dokumentasi memakai ollama-linux-arm64.tar.zst sebagai pengganti paket amd64. Driver GPU bersifat opsional: dokumentasi mencantumkan CUDA untuk GPU NVIDIA dan ROCm untuk GPU AMD, dan VPS pada umumnya tidak memiliki keduanya.
Menjalankannya sebagai layanan
Agar Ollama menyala saat boot dan dijalankan ulang setelah gagal, dokumentasi menjelaskan layanan systemd. Pertama buat pengguna dan grup khusus, lalu buat file unit /etc/systemd/system/ollama.service.
| Bagian | Baris dalam file unit di dokumentasi |
|---|---|
| [Unit] | sebuah deskripsi, dan After=network-online.target |
| [Service] | ExecStart=/usr/bin/ollama serve |
| [Service] | User=ollama dan Group=ollama |
| [Service] | Restart=always dan RestartSec=3 |
| [Service] | Environment="PATH=$PATH" |
| [Install] | WantedBy=multi-user.target |
- Buat pengguna dan grup: sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama, lalu sudo usermod -a -G ollama $(whoami)
- Muat dan aktifkan unit: sudo systemctl daemon-reload, lalu sudo systemctl enable ollama
- Jalankan dan periksa: sudo systemctl start ollama, lalu sudo systemctl status ollama
- Baca lognya: journalctl -e -u ollama
Dokumentasi tidak menyebutkan apakah skrip instalasi menyiapkan layanan ini sendiri. Setelah memasang, periksa dengan systemctl status ollama alih-alih berasumsi.
Pengaturan yang penting di server
Variabel lingkungan dimasukkan ke dalam override systemd. FAQ menyarankan untuk mengedit layanan dengan systemctl edit ollama.service, menambahkan variabel di bawah [Service], lalu menjalankan systemctl daemon-reload dan systemctl restart ollama. Contohnya: Environment="OLLAMA_HOST=0.0.0.0:11434".
| Variabel | Yang dikatakan dokumentasi |
|---|---|
| OLLAMA_HOST | Secara bawaan Ollama mengikat 127.0.0.1 port 11434; variabel ini mengubah alamat pengikatnya |
| OLLAMA_KEEP_ALIVE | Secara bawaan model disimpan di memori selama 5 menit sebelum dibongkar; nilai keep_alive dalam permintaan API menimpa pengaturan ini |
| OLLAMA_MAX_LOADED_MODELS | Jumlah maksimum model yang dimuat sekaligus jika muat di memori; nilai bawaannya 3 untuk inferensi CPU |
| OLLAMA_MODELS | Di Linux, model disimpan di /usr/share/ollama/.ollama/models; atur variabel ini untuk memakai direktori lain, dan beri pengguna ollama akses baca dan tulis ke sana, misalnya dengan sudo chown -R ollama:ollama <directory> |
File model berukuran besar (unduhan Qwen3 8B sebesar 5.2 GB, dan 14B sebesar 9.3 GB), jadi periksa sisa ruang disk VPS sebelum Anda mengunduh beberapa model.
Mengaksesnya dari luar
FAQ menyatakan bahwa Ollama menjalankan server HTTP dan dapat dibuka dengan memakai server proxy seperti Nginx. Contohnya mendengarkan di port 80, menetapkan server_name, meneruskan permintaan dengan proxy_pass http://localhost:11434, dan mengatur header Host menjadi localhost:11434.
Halaman FAQ yang kami periksa tidak menjelaskan autentikasi apa pun untuk server Ollama. Rekomendasi kami, bukan pernyataan dari dokumen: pertahankan alamat bawaan dan akses server lewat tunnel SSH, atau, jika Anda memasang proxy di depannya, tambahkan autentikasi dan HTTPS di sana serta batasi port di firewall hanya untuk alamat yang Anda pakai.
Memperbarui, memeriksa, dan menghapus
- Perbarui dengan menjalankan skrip instalasi lagi, atau dengan mengunduh ulang tarball lewat langkah manual.
- Untuk memasang versi tertentu, atur OLLAMA_VERSION di depan skrip, misalnya curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh. Nomor versi ada di halaman rilis GitHub.
- Untuk menjalankan model dari library, pakai perintah yang tertera di halamannya, misalnya ollama run qwen3:4b.
- Untuk menghapus layanan, jalankan sudo systemctl stop ollama dan sudo systemctl disable ollama, lalu hapus file unit. Dokumentasi juga mencantumkan penghapusan pustaka, binary, serta model, pengguna, dan grup di /usr/share/ollama.
Sumber
Baca selanjutnya
- Memanggil model lokal dari kode Anda: structured outputs dan API yang kompatibel dengan OpenAI di OllamaBatasi keluaran model lokal dengan JSON Schema dan panggil Ollama dari klien bergaya OpenAI: apa kata dokumentasi resmi, dan apa saja yang tidak didukung.
- Apa saja yang bisa dilakukan model lokal? Tools, thinking, vision, dan embedding di Ollama, serta apa yang muat di VPSTools, thinking, vision, embedding: arti label di pustaka Ollama, model mana yang membawanya, dan seberapa besar unduhannya.
- Berapa memori yang dibutuhkan LLM lokal di VPS? File model plus cache KVFile model plus cache KV: apa kata pustaka Ollama, FAQ Ollama, dan konfigurasi model resmi tentang memori yang dibutuhkan LLM lokal di VPS.
- Menjalankan AI di VPS sendiri: berapa memori yang perlu direncanakan, dan apa yang tidak boleh dibuka ke publikBerencana menjalankan Ollama atau Dify di VPS? Apa kata dokumentasi resmi tentang memori, inferensi hanya dengan CPU, dan port yang harus tetap tertutup.