~/ / Artikel AI / LLM lokal di VPS
Artikel tentang menjalankan model bahasa di server Anda sendiri: memori yang dibutuhkan, instalasi, pengaturan, dan apa yang dapat dilakukan tiap model. Ditulis hanya berdasarkan dokumentasi resmi Ollama dan pembuat model.
Jalankan Open WebUI dengan Docker dan hubungkan ke Ollama di server Anda sendiri: perintahnya, akun pertama, dua jenis koneksi, dan cara memperbarui.
Terbit: Alat yang bisa dipakai: Local LLM Memory Estimator
Batasi keluaran model lokal dengan JSON Schema dan panggil Ollama dari klien bergaya OpenAI: apa kata dokumentasi resmi, dan apa saja yang tidak didukung.
Terbit: Alat yang bisa dipakai: JSON Schema Validator, LLM JSON Repair
Tools, thinking, vision, embedding: arti label di pustaka Ollama, model mana yang membawanya, dan seberapa besar unduhannya.
Terbit: Alat yang bisa dipakai: Local LLM Memory Estimator
Pasang Ollama di VPS Linux dan jaga tetap berjalan: perintah instalasi, layanan systemd, variabel lingkungan, penyimpanan model, dan pembaruan, dari dokumentasi resmi.
Terbit: Alat yang bisa dipakai: Local LLM Memory Estimator
File model plus cache KV: apa kata pustaka Ollama, FAQ Ollama, dan konfigurasi model resmi tentang memori yang dibutuhkan LLM lokal di VPS.
Terbit: Alat yang bisa dipakai: Local LLM Memory Estimator
Berencana menjalankan Ollama atau Dify di VPS? Apa kata dokumentasi resmi tentang memori, inferensi hanya dengan CPU, dan port yang harus tetap tertutup.
Terbit: Alat yang bisa dipakai: LLM API Cost Calculator