~/tools / Local LLM Memory Estimator
Local LLM Memory Estimator — Estima la memoria de un LLM local: archivo del modelo más caché KV
Estima cuánta memoria necesita un LLM local en un VPS o en tu propio equipo: el archivo del modelo más la caché KV para tu longitud de contexto y tu número de solicitudes en paralelo. Los preajustes usan los tamaños de descarga oficiales y las configuraciones de modelo de Qwen3 y Mistral 7B. Nada sale de tu navegador.
Estimación
- Pesos del modelo
- 4.84 GiB
- Caché KV
- 0.56 GiB
- Reserva
- 1.00 GiB
- Total
- 6.41 GiB (6.88 GB)
- Tamaño de memoria habitual más pequeño que lo contiene
- 8 GiB
Es una estimación. No incluye los búferes de cálculo del runtime y supone que todas las capas tienen la misma forma de KV. Mide una ejecución real antes de elegir un plan.
Datos del modelo comprobados el 2026-10-26.
Fuentes: Ollama library · Configuración del modelo (config.json) · Ollama FAQ
Todo se ejecuta en tu navegador. No se sube nada.
Un modelo de lenguaje local necesita memoria para dos cosas. La primera es el propio modelo, que ocupa aproximadamente lo mismo que su archivo de descarga. La segunda es la caché KV, que crece con la longitud del contexto y con el número de solicitudes que el servidor atiende a la vez. El Ollama FAQ indica que la RAM necesaria escala con OLLAMA_NUM_PARALLEL multiplicado por OLLAMA_CONTEXT_LENGTH, y que cuantizar la caché con q8_0 usa aproximadamente la mitad de memoria que f16 y q4_0 aproximadamente una cuarta parte. Esta herramienta suma las dos partes por ti. Toma el tamaño del archivo de la Ollama library, y el número de capas, de cabezas KV y la dimensión de cabeza del archivo de configuración oficial de cada modelo, y calcula la caché como 2 × capas × cabezas KV × dimensión de cabeza × longitud de contexto × solicitudes en paralelo × bytes por valor. Después suma una reserva para el sistema operativo y otros servicios, muestra el total en GiB y GB, indica el tamaño de memoria habitual más pequeño que lo contiene y te dice si cabe en el plan de VPS que escribas. El resultado es una estimación, no una medición: no incluye los búferes de cálculo del propio runtime, y conviene medir un servidor real antes de comprometerte con un plan. Los datos de los modelos se comprobaron en la fecha que aparece debajo de la herramienta.
Casos de uso
- Elegir el tamaño de memoria de un plan de VPS antes de pagarlo
- Ver cómo afecta a la memoria aumentar la longitud de contexto o el número de solicitudes en paralelo
- Comparar un modelo más pequeño con uno más grande para el mismo servidor
Cómo usarlo
- Elige un modelo, o elige la opción personalizada e introduce el tamaño del archivo, las capas, las cabezas KV y la dimensión de cabeza de tu propio modelo.
- Indica la longitud de contexto, el número de solicitudes en paralelo, el tipo de caché KV y una reserva para el sistema operativo y otros servicios.
- Si quieres, introduce la memoria del plan que estás considerando para ver si la estimación cabe y con cuánto margen.
FAQ
¿Cómo se calcula la memoria?
La herramienta suma tres partes. Los pesos son el tamaño de descarga del archivo del modelo. La caché KV es 2 × capas × cabezas KV × dimensión de cabeza × longitud de contexto × solicitudes en paralelo × bytes por valor, donde un valor ocupa 2 bytes en f16, y aproximadamente 1 byte en q8_0 y aproximadamente medio byte en q4_0, siguiendo las proporciones del Ollama FAQ. La tercera parte es una reserva que tú fijas para el sistema operativo y otros servicios.
¿De dónde salen los números de los modelos?
Los tamaños de archivo y la cuantización son los que la Ollama library muestra para cada etiqueta. El número de capas, de cabezas KV y la dimensión de cabeza proceden del config.json oficial de cada modelo en Hugging Face. En Mistral 7B, que no indica la dimensión de cabeza, es el tamaño oculto dividido entre el número de cabezas de atención. La fecha de la comprobación aparece debajo de la herramienta.
¿Por qué el resultado es solo una estimación?
El runtime también necesita memoria de trabajo para sus búferes de cálculo, que esta herramienta no incluye, y el uso real depende del runtime y de su configuración. Mide el uso de memoria de una ejecución real antes de elegir un plan y deja algo de margen.
¿Cuál es la diferencia entre GB y GiB?
Un GB son 1,000,000,000 de bytes y un GiB son 1,073,741,824 bytes. La herramienta muestra ambos para el total y compara la memoria del plan que escribas con el total en GiB, para no sobrestimar lo que cabe. El "GB" de un proveedor puede significar cualquiera de los dos, así que comprueba cómo cuenta el tuyo.
¿Puedo usar un modelo que no está en la lista?
Sí. Elige la opción personalizada e introduce el tamaño del archivo, las capas, las cabezas KV y la dimensión de cabeza, que figuran en el config.json del modelo. La fórmula supone que todas las capas tienen la misma forma de KV, por lo que no sirve para modelos que mezclan tipos de capa, usan ventanas deslizantes o usan una mezcla de expertos.
¿Qué cambia el tipo de caché KV?
Cambia solo el tamaño de la caché, no los pesos. Según el Ollama FAQ, q8_0 usa aproximadamente la mitad de memoria que f16 y q4_0 aproximadamente una cuarta parte. Esta herramienta no mide cómo afecta una caché más pequeña a las respuestas.
¿Se envía lo que introduzco a un servidor?
No. El cálculo se ejecuta en tu navegador.