~/ / Menjalankan LLM lokal di server Anda
Tool untuk menjalankan Ollama di komputer sendiri atau VPS, diurutkan sesuai kebutuhan Anda. Perkirakan memori yang dibutuhkan model, jaga server tetap berjalan dengan systemd, publikasikan dengan aman di balik nginx, dan panggil API-nya. Saat ada yang tidak berfungsi, baca responsnya, detail modelnya, dan log servernya.
Lihat apa yang disimpan Ollama di memori, berapa lama bertahan di sana, dan pengaturan apa yang mengubahnya: ollama ps, keep_alive, dan batasannya, dari FAQ resmi.
Terbit: Alat yang bisa dipakai: Local LLM Memory Estimator
Jalankan Dify di VPS Anda sendiri dan pakai Ollama sebagai modelnya: instalasi, kolom plugin, masalah alamat di Docker, dan embedding, dari dokumentasi resmi.
Terbit: Alat yang bisa dipakai: Local LLM Memory Estimator
Tidak punya PC bertenaga? Sewa VPS dan jalankan LLM lokal kecil dari browser Anda: enam langkah dari perkiraan memori sampai layar obrolan yang terlindungi, dengan batasannya dinyatakan secara jujur.
Terbit: Alat yang bisa dipakai: Local LLM Memory Estimator, LLM API Cost Calculator
Jalankan Open WebUI dengan Docker dan hubungkan ke Ollama di server Anda sendiri: perintahnya, akun pertama, dua jenis koneksi, dan cara memperbarui.
Terbit: Alat yang bisa dipakai: Local LLM Memory Estimator
Batasi keluaran model lokal dengan JSON Schema dan panggil Ollama dari klien bergaya OpenAI: apa kata dokumentasi resmi, dan apa saja yang tidak didukung.
Terbit: Alat yang bisa dipakai: JSON Schema Validator, LLM JSON Repair, Ollama OpenAI Converter
Tools, thinking, vision, embedding: arti label di pustaka Ollama, model mana yang membawanya, dan seberapa besar unduhannya.
Terbit: Alat yang bisa dipakai: Local LLM Memory Estimator