~/tools / Fichiers de modèle et chat templates / GGUF Metadata Viewer
GGUF Metadata Viewer — Ouvrez un fichier GGUF : quantification, contexte, tokenizer, tenseurs, KV cache
Ouvrez un fichier de modèle GGUF dans votre navigateur et voyez ce qu'il contient sans le charger : architecture, quantification, nombre de paramètres, le contexte le plus long, couches et têtes d'attention, le tokenizer et ses tokens spéciaux, le template de chat, chaque entrée de métadonnées et chaque tenseur. L'outil calcule aussi le KV cache pour chaque longueur de contexte et vérifie le fichier comme le fait llama.cpp, afin de repérer un téléchargement incomplet avant de l'importer dans Ollama. Seul le début du fichier est lu, et rien n'est envoyé.
Ou déposez un fichier ici. Seul le début du fichier est lu, et il reste sur votre ordinateur. Dans notre test, le fichier de poids qu'Ollama conserve dans son dossier models/blobs était lui aussi un fichier GGUF.
KV cache = 2 × couches × têtes KV × taille de tête × 2 octets (f16) × longueur de contexte. Pour qwen2.5:7b, cela donne 224 MiB à 4096 tokens, la taille du log d'Ollama dans notre test.
Les poids sont les données des tenseurs stockées dans le fichier ; avec l'en-tête, ils forment le fichier. Faire tourner le modèle demande aussi le KV cache et de la mémoire de travail, que l'estimateur de mémoire ajoute.
Vérifié le 2026-11-08 avec la spécification GGUF et le lecteur de llama.cpp, et avec le fichier réel de qwen2.5:7b : ses métadonnées et ses 339 tenseurs correspondaient à ce que rapporte Ollama 0.40.11. Spécification GGUF · Ollama : importer un modèle
Le fichier est lu dans votre navigateur et n'est pas envoyé. Seul son début est lu.
GGUF est le format de fichier que llama.cpp et Ollama utilisent pour les modèles. Un fichier GGUF commence par un en-tête : la version du format, une liste d'entrées de métadonnées (comme general.architecture, <architecture>.context_length, tokenizer.ggml.tokens et tokenizer.chat_template) et une liste de tenseurs avec leurs noms, formes, types et positions. Les poids viennent ensuite. Cet outil lit uniquement cet en-tête, selon la structure de la spécification GGUF du dépôt ggml, si bien qu'un fichier de plusieurs gigaoctets s'ouvre en un instant : pour qwen2.5:7b, l'en-tête fait 5.7 MiB sur un fichier de 4.36 GiB. À partir de l'en-tête, il affiche le nom, l'architecture et la quantification du modèle (general.file_type), compte les paramètres à partir des formes des tenseurs et additionne la taille des poids pour chaque type de tenseur, avec les tailles de bloc de gguf-py de llama.cpp. Il affiche la forme du modèle (couches, têtes d'attention, têtes KV, taille de tête, réglages RoPE, experts), le tokenizer avec ses tokens de début et de fin de texte, et le template de chat. À partir des couches, des têtes KV et de la taille de tête, il calcule le KV cache en f16, la valeur par défaut d'Ollama : 2 (clés et valeurs) × couches × têtes KV × taille de tête × 2 octets × longueur de contexte. Il vérifie aussi ce que vérifie le lecteur propre à llama.cpp (gguf.cpp), comme la version du format, l'ordre des octets, les clés et noms de tenseur en double, l'alignement, les types de tenseur et la position de chaque tenseur, et il compare la taille décrite par l'en-tête à la taille du fichier. Nous avons testé l'outil avec le fichier réel de qwen2.5:7b que stocke Ollama 0.40.11 : les métadonnées, les 339 tenseurs (noms, types et formes) et le nombre de paramètres correspondaient à ce que rapporte /api/show d'Ollama, et la taille calculée à partir de l'en-tête correspondait à celle du fichier, à l'octet près.
Le cœur de cet outil est open source, sous licence MIT. github.com/seigo5555/toolkitbox-lib/src/gguf.ts
Cas d'usage
- Vérifier un GGUF téléchargé depuis Hugging Face avant de l'importer dans Ollama : quantification, longueur de contexte, template de chat et téléchargement complet ou non
- Voir la mémoire dont les poids et le KV cache d'un modèle ont besoin, à partir du fichier lui-même
- Examiner les métadonnées et les tenseurs d'un modèle qu'Ollama possède déjà, en ouvrant son fichier dans le dossier models/blobs d'Ollama
Utilisation
- Choisissez un fichier .gguf ou déposez-le dans la zone. Pour examiner un modèle qu'Ollama possède, ollama show --modelfile <model> affiche le chemin de son fichier après FROM.
- L'outil lit le début du fichier et affiche le modèle, sa forme, le KV cache, les poids par type et le tokenizer.
- Ouvrez "Toutes les métadonnées" ou "Tous les tenseurs" pour les listes complètes. Pour un fichier qui n'est pas encore dans Ollama, l'outil affiche la ligne du Modelfile pour l'importer.
FAQ
Le fichier est-il envoyé ?
Non. Le navigateur lit le fichier sur votre ordinateur, et l'outil n'en lit que le début : l'en-tête avec les métadonnées et la liste des tenseurs. Les poids ne sont pas lus.
Pourquoi l'outil dit-il que le fichier est plus court que ne l'indique l'en-tête ?
L'en-tête liste chaque tenseur avec sa taille et sa position, il indique donc la taille que le fichier doit avoir. Si le fichier est plus court, une partie des poids manque, par exemple parce qu'un téléchargement ou une copie s'est arrêté trop tôt. llama.cpp s'arrête avec "model is corrupted or incomplete" pour un tel fichier.
Quelle est la différence entre general.file_type et les types de tenseur ?
general.file_type nomme la quantification principale du fichier, comme Q4_K_M. Un fichier mélange des types : dans qwen2.5:7b Q4_K_M, la plupart des tenseurs sont en Q4_K, certains en Q6_K, et les petits, comme les poids de normalisation, en F32. Le tableau des poids par type montre ce mélange.
Puis-je ouvrir les fichiers de modèle qu'Ollama a déjà téléchargés ?
Oui. Ollama conserve les poids d'un modèle dans son dossier models/blobs, dans un fichier nommé sha256-…. Dans notre test, ollama show --modelfile qwen2.5:7b affichait le chemin de ce fichier après FROM, et c'était un fichier GGUF.
Comment importer un GGUF dans Ollama ?
Le guide d'importation d'Ollama utilise un Modelfile avec FROM /path/to/file.gguf, puis ollama create. Pour un modèle réparti en plusieurs fichiers, gardez les noms de fichier d'origine et utilisez un joker qui correspond à toutes les parties. Ollama ne quantifie pas les modèles GGUF pendant l'importation.
Quelle est la précision de la taille du KV cache ?
La formule correspondait au log d'Ollama dans notre test (224 MiB pour qwen2.5:7b à 4096 tokens). Elle vaut pour f16, la valeur par défaut d'Ollama. Les modèles avec fenêtre glissante, KV cache partagé ou compressé, ou couches récurrentes utilisent une quantité différente ; l'outil l'indique lorsque les métadonnées le montrent.