~/ / Ejecutar un LLM local en tu servidor
Herramientas para ejecutar Ollama en tu propio ordenador o en un VPS, en el orden en que las necesitas. Estima la memoria que necesita un modelo, mantén el servidor en marcha con systemd, publícalo de forma segura detrás de nginx y llama a su API. Cuando algo no funciona, lee sus respuestas, los detalles del modelo y el registro del servidor.
Mira qué mantiene Ollama en memoria, cuánto tiempo y qué ajustes lo cambian: ollama ps, keep_alive y los límites, según las preguntas frecuentes oficiales.
Publicado: Herramientas que puedes usar: Local LLM Memory Estimator
Ejecuta Dify en tu propio VPS y usa Ollama como su modelo: instalación, los campos del plugin, el problema de la dirección en Docker y los embeddings, según la documentación oficial.
Publicado: Herramientas que puedes usar: Local LLM Memory Estimator
¿No tienes un PC potente? Alquila un VPS y ejecuta un LLM local pequeño desde el navegador: seis pasos, desde la estimación de memoria hasta una pantalla de chat protegida, con los límites explicados con honestidad.
Publicado: Herramientas que puedes usar: Local LLM Memory Estimator, LLM API Cost Calculator
Ejecuta Open WebUI con Docker y conéctalo a Ollama en tu propio servidor: los comandos, la primera cuenta, los dos tipos de conexión y cómo actualizar.
Publicado: Herramientas que puedes usar: Local LLM Memory Estimator
Limita la salida de un modelo local con un JSON Schema y llama a Ollama desde clientes al estilo OpenAI: qué dice la documentación oficial y qué no se admite.
Publicado: Herramientas que puedes usar: JSON Schema Validator, LLM JSON Repair, Ollama OpenAI Converter
Tools, thinking, vision, embeddings: qué significan las etiquetas de la biblioteca de Ollama, qué modelos las llevan y cuánto pesan las descargas.
Publicado: Herramientas que puedes usar: Local LLM Memory Estimator