toolkitbox

~/ / Artículos de IA / LLM locales en un VPS / Vigilar la memoria de Ollama en un VPS pequeño

Vigilar la memoria de Ollama en un VPS pequeño

En un servidor pequeño la memoria es el límite, y Ollama mantiene un modelo en memoria después de responder. Este artículo muestra cómo ver qué está cargado, cuánto tiempo permanece, cuántos modelos y solicitudes atiende Ollama a la vez y qué ajustes cambian el uso de memoria. Todos los valores por defecto de abajo están citados de las preguntas frecuentes oficiales.

Publicado: · 4 min de lectura · Datos comprobados con la documentación oficial de Ollama el 2026-10-27. Los valores por defecto pueden cambiar entre versiones, así que consulta las preguntas frecuentes de la versión que uses.

Ver qué está cargado

Las preguntas frecuentes indican usar ollama ps para ver qué modelos están cargados actualmente en memoria. La columna PROCESSOR indica dónde se encuentra un modelo.

PROCESSOR muestraQué significa según las preguntas frecuentes
100% GPUEl modelo se cargó por completo en la GPU.
100% CPUEl modelo se cargó por completo en la memoria del sistema.
48%/52% CPU/GPUEl modelo se cargó en parte en la GPU y en parte en la memoria del sistema.

En un VPS sin GPU, 100% CPU es la lectura esperada: el modelo está en la memoria del servidor.

Cuánto tiempo permanece un modelo en memoria

Por defecto, según las preguntas frecuentes, los modelos se mantienen en memoria durante 5 minutos antes de descargarse. Puedes cambiarlo para todo el servidor o para una sola solicitud.

Qué quieresCómo, según las preguntas frecuentes
Descargar un modelo ahoraollama stop llama3.2
Mantener un modelo cargadoEnvía keep_alive con un número negativo, por ejemplo -1, en una solicitud a /api/generate o /api/chat.
Descargarlo justo después de la respuestaEnvía keep_alive con el valor 0.
Otro tiempokeep_alive también acepta una cadena de duración como 10m o 24h, o un número de segundos como 3600.
Configurarlo para todo el servidorDefine la variable de entorno OLLAMA_KEEP_ALIVE al iniciar el servidor. Acepta los mismos tipos de valores. Un keep_alive en una solicitud tiene prioridad sobre ella.

Nuestra lectura, no una afirmación de los documentos: cuando el mismo servidor ejecuta además otras cosas, como Dify o una pantalla de chat, un modelo que permanece cargado les quita su memoria. Un tiempo más corto libera memoria antes, y la siguiente solicitud tiene que cargar el modelo de nuevo. No medimos cuánto tarda eso.

Varios modelos, varias solicitudes

Las preguntas frecuentes describen tres límites y una regla. Si un modelo nuevo no cabe en la memoria disponible mientras hay otros modelos cargados, las solicitudes nuevas se ponen en cola hasta que se pueda cargar, y los modelos inactivos se descargan para hacer sitio.

El estimador de abajo tiene un campo para solicitudes en paralelo, así puedes ver qué efecto tiene un valor más alto en el total.

AjusteQué dicen las preguntas frecuentes
OLLAMA_MAX_LOADED_MODELSEl número máximo de modelos que pueden estar cargados a la vez, siempre que quepan en la memoria disponible. El valor por defecto es 3 veces el número de GPU, o 3 para inferencia en CPU.
OLLAMA_NUM_PARALLELEl número máximo de solicitudes en paralelo que cada modelo procesará al mismo tiempo. El valor por defecto es 1. La RAM necesaria crece con OLLAMA_NUM_PARALLEL multiplicado por OLLAMA_CONTEXT_LENGTH.
OLLAMA_MAX_QUEUEEl número máximo de solicitudes que Ollama pone en cola cuando está ocupado antes de rechazar más. El valor por defecto es 512. Las solicitudes rechazadas reciben un error 503.

Pruébalo: Local LLM Memory Estimator

Modelo

Etiqueta de Ollama qwen3:8b, cuantización Q4_K_M, tamaño de descarga 5.2 GB.

Estimación

Pesos del modelo
4.84 GiB
Caché KV
0.56 GiB
Reserva
1.00 GiB
Total
6.41 GiB (6.88 GB)
Tamaño de memoria habitual más pequeño que lo contiene
8 GiB

Es una estimación. No incluye los búferes de cálculo del runtime y supone que todas las capas tienen la misma forma de KV. Mide una ejecución real antes de elegir un plan.

Datos del modelo comprobados el 2026-10-26.

Fuentes: Ollama library · Configuración del modelo (config.json) · Ollama FAQ

Todo se ejecuta en tu navegador. No se sube nada.

Ajustes que cambian el uso de memoria

AjusteQué dicen las preguntas frecuentes
OLLAMA_CONTEXT_LENGTHPor defecto, Ollama usa una ventana de contexto de 4096 tokens. La variable de entorno la sustituye, y num_ctx se puede definir por sesión o a través de la API.
OLLAMA_KV_CACHE_TYPEEl tipo de cuantización de la caché K/V. El valor por defecto es f16.
OLLAMA_FLASH_ATTENTIONDefínelo en 1 al iniciar el servidor para forzar Flash Attention. Las preguntas frecuentes dicen que Ollama lo activa automáticamente cuando el backend y los dispositivos lo admiten.

Las variables de entorno del servidor van en un override de systemd. El artículo sobre cómo instalar Ollama en un VPS muestra los pasos. No medimos cuánta memoria ahorra cada ajuste en tu servidor, así que comprueba con ollama ps después de un cambio.

Fuentes

Sigue leyendo