~/ / Artículos de IA / LLM locales en un VPS
Artículos sobre cómo ejecutar modelos de lenguaje en tu propio servidor: la memoria necesaria, la instalación, los ajustes y lo que puede hacer cada modelo. Escritos solo a partir de la documentación oficial de Ollama y de los creadores de los modelos.
Ejecuta Open WebUI con Docker y conéctalo a Ollama en tu propio servidor: los comandos, la primera cuenta, los dos tipos de conexión y cómo actualizar.
Publicado: Herramientas que puedes usar: Local LLM Memory Estimator
Limita la salida de un modelo local con un JSON Schema y llama a Ollama desde clientes al estilo OpenAI: qué dice la documentación oficial y qué no se admite.
Publicado: Herramientas que puedes usar: JSON Schema Validator, LLM JSON Repair
Tools, thinking, vision, embeddings: qué significan las etiquetas de la biblioteca de Ollama, qué modelos las llevan y cuánto pesan las descargas.
Publicado: Herramientas que puedes usar: Local LLM Memory Estimator
Instala Ollama en un VPS con Linux y mantenlo en marcha: el comando de instalación, el servicio systemd, las variables de entorno, el almacenamiento de modelos y las actualizaciones, según la documentación oficial.
Publicado: Herramientas que puedes usar: Local LLM Memory Estimator
Archivo del modelo más caché KV: lo que dicen la biblioteca de Ollama, las preguntas frecuentes de Ollama y las configuraciones oficiales de los modelos sobre la memoria que necesita un LLM local en un VPS.
Publicado: Herramientas que puedes usar: Local LLM Memory Estimator
¿Piensas ejecutar Ollama o Dify en un VPS? Lo que dice la documentación oficial sobre la memoria, la inferencia solo con CPU y los puertos que conviene mantener cerrados.
Publicado: Herramientas que puedes usar: LLM API Cost Calculator