~/ / Artículos de IA / LLM locales en un VPS / IA en tu propio VPS: cuánta memoria planificar y qué no exponer
IA en tu propio VPS: cuánta memoria planificar y qué no exponer
Ejecutar un modelo de lenguaje o un constructor de aplicaciones de IA en un VPS alquilado resulta atractivo: una cuota mensual fija y tus datos en un servidor que controlas. Pero el plan que elijas decide si funciona siquiera, y una instalación por defecto puede dejar un servicio accesible desde internet. Este artículo reúne lo que dice la documentación oficial de Ollama y Dify sobre la memoria, el funcionamiento solo con CPU y la exposición a la red, para que puedas elegir un plan antes de pagarlo.
Publicado: · 5 min de lectura · Comprobado con la documentación oficial el 2026-10-26. Las versiones y los valores por defecto cambian, así que confírmalos en los documentos actuales antes de instalar.
Qué tiene que caber en la memoria
El tamaño de descarga de un modelo es la cantidad mínima de memoria que necesita, no la cantidad que conviene planificar. La biblioteca de Ollama indica el tamaño de descarga de cada etiqueta. Por ejemplo, Llama 3.2 figura con 1.3 GB para la etiqueta 1b y 2.0 GB para la 3b, ambas con una ventana de contexto de 128K.
Además del modelo, la memoria crece con el contexto. La FAQ de Ollama indica que la RAM necesaria se escala según OLLAMA_NUM_PARALLEL multiplicado por OLLAMA_CONTEXT_LENGTH, y da un ejemplo: un contexto de 2K con 4 solicitudes en paralelo se convierte en un contexto de 8K y requiere memoria adicional. La FAQ también dice que cuantizar la caché de clave-valor con q8_0 usa aproximadamente la mitad de memoria que f16, y q4_0 alrededor de una cuarta parte.
| Etiqueta del modelo | Tamaño de descarga | Ventana de contexto |
|---|---|---|
| llama3.2:1b | 1.3 GB | 128K |
| llama3.2:3b | 2.0 GB | 128K |
- La FAQ de Ollama da 4096 tokens como ventana de contexto por defecto, y la página sobre la longitud del contexto dice que el valor por defecto depende de la VRAM de tu GPU (4k por debajo de 24 GiB). Comprueba el valor que usa realmente tu instalación.
- El README de Ollama que consultamos no indica una necesidad de RAM por tamaño de modelo. Mide en lugar de suponer: carga el modelo con la longitud de contexto que piensas usar, envía un prompt y observa el uso de memoria del servidor.
- Deja margen para el sistema operativo y para cualquier otro servicio del mismo servidor.
Los tamaños de descarga se leyeron en la página de la biblioteca de Ollama en la fecha indicada arriba. Son tamaños de archivo, no un uso de memoria medido.
Sin GPU: qué significa funcionar solo con CPU
La mayoría de los planes de VPS no tienen GPU, así que el modelo se ejecuta en la CPU y en la memoria del sistema. La FAQ de Ollama describe este caso: ollama ps muestra 100% CPU en la columna PROCESSOR cuando un modelo se cargó por completo en la memoria del sistema, y el valor por defecto de OLLAMA_MAX_LOADED_MODELS es 3 para la inferencia con CPU.
Los documentos no dan cifras de velocidad para el funcionamiento solo con CPU, y nosotros tampoco medimos ninguna. Empieza con el modelo más pequeño que sirva para tu tarea y pruébalo durante unos días antes de comprometerte con un contrato más largo.
Dify en un VPS
Dify se puede autoalojar con Docker Compose. Su documentación enumera unos requisitos mínimos del sistema, que son mínimos y no recomendaciones:
- CPU: 2 núcleos o más
- RAM: 4 GiB o más
- Linux: Docker 19.03 o posterior y Docker Compose 2.24.0 o posterior
| Paso | Qué haces |
|---|---|
| 1 | Clona el repositorio de Dify y entra en el directorio dify/docker |
| 2 | Copia .env.example a .env |
| 3 | Genera un token con openssl rand -base64 32 y defínelo como DIFY_AGENT_LOCAL_SANDBOX_AUTH_TOKEN en .env |
| 4 | Ejecuta docker compose up -d |
| 5 | Revisa docker compose ps: los contenedores deben mostrar Up o healthy |
| 6 | Abre /install en tu servidor para crear la cuenta de administrador y luego inicia sesión |
La página de Dify que consultamos no menciona Ollama ni los modelos locales. Si un mismo servidor ejecuta Dify y un modelo local, planifica la memoria de ambos (es nuestra lectura de los dos documentos, no una cifra de ninguno de ellos).
Qué no exponer a internet
La FAQ de Ollama dice que Ollama escucha por defecto en 127.0.0.1, puerto 11434, y que la dirección de enlace se cambia con la variable de entorno OLLAMA_HOST. La página de la FAQ que consultamos no describe ninguna autenticación para el servidor de Ollama. Lo que sigue es nuestra recomendación, no una afirmación de los documentos:
- Deja Ollama en su dirección por defecto. Si otra máquina lo necesita, accede a él mediante un túnel SSH en lugar de cambiar la dirección de enlace.
- Si lo enlazas a una dirección de red, restringe el puerto en el cortafuegos a las direcciones que uses y nunca lo abras a todo el mundo.
- Dify se sirve en la dirección del servidor y la cuenta de administrador se crea desde /install. Hazlo inmediatamente después de que arranquen los contenedores, y pon HTTPS y una regla de cortafuegos por delante antes de compartir la dirección.
- Guarda las claves de API de los proveedores de modelos en el archivo .env o en un almacén de secretos, y fuera de todo lo que subas al repositorio.
¿Autoalojar o usar una API?
Un VPS cuesta lo mismo cada mes lo uses o no, mientras que una API cobra por los tokens que envías y recibes. Si tu volumen es bajo, una API puede salir más barata que mantener un servidor en marcha. Si es alto y basta un modelo pequeño, el servidor puede ganar. Introduce tu propio volumen y compara.
Pruébalo: LLM API Cost Calculator
Coste estimado
Introduce los precios y el número de tokens para ver el coste.
Páginas oficiales de precios
Esto solo multiplica los números que introduces. No conoce los precios del proveedor, ni descuentos, caché, tarifas por lotes, precios escalonados ni impuestos.
Para saber los tokens de entrada de un prompt, usa el Token Counter.
Fuentes
Sigue leyendo
- Llamar a un modelo local desde tu código: salidas estructuradas y la API compatible con OpenAI en OllamaLimita la salida de un modelo local con un JSON Schema y llama a Ollama desde clientes al estilo OpenAI: qué dice la documentación oficial y qué no se admite.
- ¿Qué puede hacer un modelo local? Tools, thinking, vision y embeddings en Ollama, y qué cabe en un VPSTools, thinking, vision, embeddings: qué significan las etiquetas de la biblioteca de Ollama, qué modelos las llevan y cuánto pesan las descargas.
- Instalar Ollama en un VPS y mantenerlo en marcha: instalación, servicio systemd, ajustes y actualizacionesInstala Ollama en un VPS con Linux y mantenlo en marcha: el comando de instalación, el servicio systemd, las variables de entorno, el almacenamiento de modelos y las actualizaciones, según la documentación oficial.
- ¿Cuánta memoria necesita un LLM local en un VPS? Archivo del modelo más caché KVArchivo del modelo más caché KV: lo que dicen la biblioteca de Ollama, las preguntas frecuentes de Ollama y las configuraciones oficiales de los modelos sobre la memoria que necesita un LLM local en un VPS.