~/tools / Modelldateien und Chat-Templates / GGUF Metadata Viewer
GGUF Metadata Viewer — GGUF-Datei öffnen: Quantisierung, Kontext, Tokenizer, Tensoren, KV-Cache
Öffnen Sie eine GGUF-Modelldatei im Browser und sehen Sie, was darin steckt, ohne sie zu laden: Architektur, Quantisierung, Parameteranzahl, die längste Kontextlänge, Schichten und Attention-Heads, den Tokenizer mit seinen Spezial-Tokens, das Chat-Template, jeden Metadateneintrag und jeden Tensor. Das Tool berechnet außerdem den KV-Cache für jede Kontextlänge und prüft die Datei so wie llama.cpp, sodass Sie einen unvollständigen Download erkennen, bevor Sie ihn in Ollama importieren. Es wird nur der Anfang der Datei gelesen, und nichts wird hochgeladen.
Oder ziehen Sie eine Datei hierher. Es wird nur der Anfang der Datei gelesen, und sie bleibt auf Ihrem Computer. In unserem Test war auch die Gewichtsdatei, die Ollama in seinem Ordner models/blobs ablegt, eine GGUF-Datei.
KV-Cache = 2 × Schichten × KV-Heads × Head-Größe × 2 Bytes (f16) × Kontextlänge. Für qwen2.5:7b ergibt das 224 MiB bei 4096 Tokens, die Größe im Log von Ollama in unserem Test.
Die Gewichte sind die in der Datei gespeicherten Tensordaten; zusammen mit dem Header bilden sie die Datei. Zum Ausführen des Modells braucht es zusätzlich den KV-Cache und Arbeitsspeicher, die der Memory Estimator hinzurechnet.
Am 2026-11-08 gegen die GGUF-Spezifikation und den Reader von llama.cpp geprüft sowie mit der echten Datei von qwen2.5:7b: Ihre Metadaten und 339 Tensoren stimmten mit dem überein, was Ollama 0.40.11 meldet. GGUF-Spezifikation · Ollama: Ein Modell importieren
Die Datei wird in Ihrem Browser gelesen und nicht hochgeladen. Es wird nur ihr Anfang gelesen.
GGUF ist das Dateiformat, das llama.cpp und Ollama für Modelle verwenden. Eine GGUF-Datei beginnt mit einem Header: der Formatversion, einer Liste von Metadateneinträgen (zum Beispiel general.architecture, <architecture>.context_length, tokenizer.ggml.tokens und tokenizer.chat_template) und einer Liste von Tensoren mit Namen, Formen, Typen und Positionen. Danach folgen die Gewichte. Dieses Tool liest nur diesen Header, nach dem Aufbau in der GGUF-Spezifikation im ggml-Repository, sodass sich eine Datei von mehreren Gigabyte im Nu öffnet: Bei qwen2.5:7b sind es 5.7 MiB Header in einer 4.36 GiB großen Datei. Aus dem Header zeigt es Name, Architektur und Quantisierung (general.file_type) des Modells, zählt die Parameter anhand der Tensorformen und addiert die Größe der Gewichte je Tensortyp, mit den Blockgrößen aus gguf-py von llama.cpp. Es zeigt die Form des Modells (Schichten, Attention-Heads, KV-Heads, Head-Größe, RoPE-Einstellungen, Experten), den Tokenizer mit seinen Tokens für Textanfang und Textende sowie das Chat-Template. Aus den Schichten, den KV-Heads und der Head-Größe berechnet es den KV-Cache bei f16, dem Standard von Ollama: 2 (Schlüssel und Werte) × Schichten × KV-Heads × Head-Größe × 2 Bytes × Kontextlänge. Außerdem prüft es, was auch der eigene Reader von llama.cpp (gguf.cpp) prüft, etwa die Formatversion, die Byte-Reihenfolge, doppelte Schlüssel und Tensornamen, die Ausrichtung, die Tensortypen und die Position jedes Tensors, und es vergleicht die Größe, die der Header beschreibt, mit der Größe der Datei. Wir haben das Tool mit der echten Datei von qwen2.5:7b geprüft, die Ollama 0.40.11 speichert: Die Metadaten, die 339 Tensoren (Namen, Typen und Formen) und die Parameteranzahl stimmten mit dem überein, was /api/show von Ollama meldet, und die aus dem Header berechnete Größe entsprach der Datei auf das Byte genau.
Die Kernlogik dieses Tools ist Open Source unter der MIT-Lizenz. github.com/seigo5555/toolkitbox-lib/src/gguf.ts
Anwendungsfälle
- Eine von Hugging Face heruntergeladene GGUF-Datei vor dem Import in Ollama prüfen: Quantisierung, Kontextlänge, Chat-Template und ob der Download vollständig ist
- Sehen, wie viel Speicher die Gewichte und der KV-Cache eines Modells brauchen, anhand der Datei selbst
- Metadaten und Tensoren eines Modells ansehen, das Ollama bereits hat, indem Sie dessen Datei im Ordner models/blobs von Ollama öffnen
Verwendung
- Wählen Sie eine .gguf-Datei aus oder ziehen Sie sie auf das Feld. Um ein Modell von Ollama anzusehen, gibt ollama show --modelfile <model> nach FROM den Pfad seiner Datei aus.
- Das Tool liest den Anfang der Datei und zeigt das Modell, seine Form, den KV-Cache, die Gewichte nach Typ und den Tokenizer.
- Öffnen Sie „Alle Metadaten“ oder „Alle Tensoren“ für die vollständigen Listen. Für eine Datei, die noch nicht in Ollama ist, zeigt das Tool die Modelfile-Zeile für den Import.
FAQ
Wird die Datei hochgeladen?
Nein. Der Browser liest die Datei auf Ihrem Computer, und das Tool liest nur ihren Anfang: den Header mit den Metadaten und der Liste der Tensoren. Die Gewichte werden nicht gelesen.
Warum meldet das Tool, die Datei sei kürzer, als der Header sagt?
Der Header listet jeden Tensor mit Größe und Position auf, sodass er verrät, wie groß die Datei sein muss. Ist die Datei kürzer, fehlt ein Teil der Gewichte, zum Beispiel weil ein Download oder Kopiervorgang vorzeitig abgebrochen wurde. llama.cpp bricht bei einer solchen Datei mit "model is corrupted or incomplete" ab.
Was ist der Unterschied zwischen general.file_type und den Tensortypen?
general.file_type nennt die Haupt-Quantisierung der Datei, etwa Q4_K_M. Eine Datei mischt Typen: In qwen2.5:7b Q4_K_M sind die meisten Tensoren Q4_K, einige Q6_K, und kleine wie die Normalisierungsgewichte F32. Die Tabelle der Gewichte nach Typ zeigt die Mischung.
Kann ich die Modelldateien öffnen, die Ollama bereits heruntergeladen hat?
Ja. Ollama legt die Gewichte eines Modells in seinem Ordner models/blobs ab, in einer Datei namens sha256-…. In unserem Test gab ollama show --modelfile qwen2.5:7b nach FROM den Pfad dieser Datei aus, und es war eine GGUF-Datei.
Wie importiere ich eine GGUF-Datei in Ollama?
Der Import-Leitfaden von Ollama verwendet ein Modelfile mit FROM /path/to/file.gguf und dann ollama create. Bei einem Modell, das auf mehrere Dateien verteilt ist, behalten Sie die ursprünglichen Dateinamen bei und verwenden einen Platzhalter, der jeden Teil trifft. Ollama quantisiert GGUF-Modelle beim Import nicht.
Wie genau ist die Größe des KV-Cache?
Die Formel stimmte in unserem Test mit dem Log von Ollama überein (224 MiB für qwen2.5:7b bei 4096 Tokens). Sie gilt für f16, den Standard von Ollama. Modelle mit Sliding Window, gemeinsamem oder komprimiertem KV-Cache oder rekurrenten Schichten brauchen eine andere Menge; das Tool weist darauf hin, wenn die Metadaten es zeigen.