~/tools / Archivos de modelo y plantillas de chat / GGUF Metadata Viewer
GGUF Metadata Viewer — Abre un archivo GGUF: cuantización, contexto, tokenizador, tensores, caché KV
Abre un archivo de modelo GGUF en tu navegador y mira qué contiene sin cargarlo: arquitectura, cuantización, número de parámetros, el contexto más largo, capas y cabezas de atención, el tokenizador y sus tokens especiales, la plantilla de chat, cada entrada de metadatos y cada tensor. La herramienta también calcula la caché KV para cada longitud de contexto y comprueba el archivo como lo hace llama.cpp, de modo que puedas detectar una descarga incompleta antes de importarlo a Ollama. Solo se lee el principio del archivo y no se sube nada.
O suelta un archivo aquí. Solo se lee el principio del archivo y no sale de tu equipo. En nuestra prueba, el archivo de pesos que Ollama guarda en su carpeta models/blobs también era un archivo GGUF.
Caché KV = 2 × capas × cabezas KV × tamaño de cabeza × 2 bytes (f16) × longitud de contexto. Para qwen2.5:7b da 224 MiB con 4096 tokens, el tamaño que aparece en el log de Ollama en nuestra prueba.
Los pesos son los datos de los tensores guardados en el archivo; junto con la cabecera forman el archivo. Ejecutar el modelo también necesita la caché KV y la memoria de trabajo, que el estimador de memoria suma.
Comprobado el 2026-11-08 con la especificación de GGUF y el lector de llama.cpp, y con el archivo real de qwen2.5:7b: sus metadatos y sus 339 tensores coincidieron con lo que informa Ollama 0.40.11. Especificación de GGUF · Ollama: importar un modelo
El archivo se lee en tu navegador y no se sube. Solo se lee el principio.
GGUF es el formato de archivo que llama.cpp y Ollama usan para los modelos. Un archivo GGUF empieza con una cabecera: la versión del formato, una lista de entradas de metadatos (como general.architecture, <architecture>.context_length, tokenizer.ggml.tokens y tokenizer.chat_template) y una lista de tensores con sus nombres, formas, tipos y posiciones. Después vienen los pesos. Esta herramienta lee solo esa cabecera, con la estructura de la especificación de GGUF del repositorio de ggml, así que un archivo de varios gigabytes se abre en un instante: en qwen2.5:7b la cabecera ocupa 5.7 MiB de un archivo de 4.36 GiB. A partir de la cabecera muestra el nombre, la arquitectura y la cuantización del modelo (general.file_type), cuenta los parámetros a partir de las formas de los tensores y suma el tamaño de los pesos por cada tipo de tensor, con los tamaños de bloque de gguf-py de llama.cpp. Muestra la forma del modelo (capas, cabezas de atención, cabezas KV, tamaño de cabeza, ajustes de RoPE, expertos), el tokenizador con sus tokens de inicio y de fin de texto, y la plantilla de chat. A partir de las capas, las cabezas KV y el tamaño de cabeza calcula la caché KV en f16, el valor por defecto de Ollama: 2 (claves y valores) × capas × cabezas KV × tamaño de cabeza × 2 bytes × longitud de contexto. También comprueba lo que comprueba el lector propio de llama.cpp (gguf.cpp), como la versión del formato, el orden de bytes, las claves y nombres de tensor duplicados, la alineación, los tipos de tensor y la posición de cada tensor, y compara el tamaño que describe la cabecera con el tamaño del archivo. Probamos la herramienta con el archivo real de qwen2.5:7b que guarda Ollama 0.40.11: los metadatos, los 339 tensores (nombres, tipos y formas) y el número de parámetros coincidieron con lo que informa /api/show de Ollama, y el tamaño calculado a partir de la cabecera coincidió con el del archivo al byte.
La lógica principal de esta herramienta es de código abierto, con licencia MIT. github.com/seigo5555/toolkitbox-lib/src/gguf.ts
Casos de uso
- Revisar un GGUF descargado de Hugging Face antes de importarlo a Ollama: cuantización, longitud de contexto, plantilla de chat y si la descarga está completa
- Ver cuánta memoria necesitan los pesos y la caché KV de un modelo, a partir del propio archivo
- Mirar los metadatos y los tensores de un modelo que Ollama ya tiene, abriendo su archivo en la carpeta models/blobs de Ollama
Cómo usarlo
- Elige un archivo .gguf o suéltalo en el recuadro. Para ver un modelo que tiene Ollama, ollama show --modelfile <model> muestra la ruta de su archivo después de FROM.
- La herramienta lee el principio del archivo y muestra el modelo, su forma, la caché KV, los pesos por tipo y el tokenizador.
- Abre "Todos los metadatos" o "Todos los tensores" para ver las listas completas. Si el archivo aún no está en Ollama, la herramienta muestra la línea del Modelfile para importarlo.
FAQ
¿Se sube el archivo?
No. El navegador lee el archivo en tu equipo y la herramienta lee solo el principio: la cabecera con los metadatos y la lista de tensores. Los pesos no se leen.
¿Por qué la herramienta dice que el archivo es más corto de lo que indica la cabecera?
La cabecera enumera cada tensor con su tamaño y su posición, así que indica cuánto debe medir el archivo. Si es más corto, falta parte de los pesos, por ejemplo porque una descarga o una copia se detuvo antes de tiempo. llama.cpp se detiene con "model is corrupted or incomplete" ante un archivo así.
¿Cuál es la diferencia entre general.file_type y los tipos de tensor?
general.file_type nombra la cuantización principal del archivo, como Q4_K_M. Un archivo mezcla tipos: en qwen2.5:7b Q4_K_M, la mayoría de los tensores son Q4_K, algunos son Q6_K y los pequeños, como los pesos de normalización, son F32. La tabla de pesos por tipo muestra la mezcla.
¿Puedo abrir los archivos de modelo que Ollama ya ha descargado?
Sí. Ollama guarda los pesos de un modelo en su carpeta models/blobs, en un archivo llamado sha256-…. En nuestra prueba, ollama show --modelfile qwen2.5:7b mostró la ruta de ese archivo después de FROM, y era un archivo GGUF.
¿Cómo importo un GGUF a Ollama?
La guía de importación de Ollama usa un Modelfile con FROM /path/to/file.gguf y después ollama create. Para un modelo dividido en varios archivos, conserva los nombres originales y usa un comodín que coincida con todas las partes. Ollama no cuantiza los modelos GGUF durante la importación.
¿Qué tan exacto es el tamaño de la caché KV?
La fórmula coincidió con el log de Ollama en nuestra prueba (224 MiB para qwen2.5:7b con 4096 tokens). Es para f16, el valor por defecto de Ollama. Los modelos con ventana deslizante, caché KV compartida o comprimida, o capas recurrentes usan una cantidad distinta; la herramienta lo indica cuando los metadatos lo muestran.