~/tools / Model dosyaları ve sohbet şablonları / GGUF Metadata Viewer
GGUF Metadata Viewer — Bir GGUF dosyası açın: nicemleme, bağlam, tokenizer, tensörler, KV önbelleği
Bir GGUF model dosyasını tarayıcıda açın ve yüklemeden içinde ne olduğunu görün: mimari, nicemleme, parametre sayısı, en uzun bağlam, katmanlar ve dikkat başlıkları, özel token'larıyla tokenizer, sohbet şablonu, her meta veri girdisi ve her tensör. Araç ayrıca her bağlam uzunluğu için KV önbelleğini hesaplar ve dosyayı llama.cpp'nin yaptığı gibi denetler; böylece eksik inmiş bir dosyayı Ollama'ya aktarmadan önce fark edebilirsiniz. Yalnızca dosyanın başı okunur ve hiçbir şey yüklenmez.
Ya da dosyayı buraya bırakın. Yalnızca dosyanın başı okunur ve dosya bilgisayarınızda kalır. Testimizde Ollama'nın models/blobs klasöründe tuttuğu ağırlık dosyası da bir GGUF dosyasıydı.
KV önbelleği = 2 × katmanlar × KV başlıkları × baş boyutu × 2 bayt (f16) × bağlam uzunluğu. qwen2.5:7b için bu, 4096 token'da 224 MiB eder; testimizde Ollama'nın günlüğündeki boyut buydu.
Ağırlıklar dosyada saklanan tensör verileridir; başlıkla birlikte dosyayı oluştururlar. Modeli çalıştırmak için ayrıca KV önbelleği ve çalışma belleği gerekir; bellek tahmincisi bunları ekler.
2026-11-08 tarihinde GGUF belirtimine ve llama.cpp'nin okuyucusuna karşı, ayrıca qwen2.5:7b'nin gerçek dosyasıyla denetlendi: meta verileri ve 339 tensörü Ollama 0.40.11'in bildirdikleriyle eşleşti. GGUF belirtimi · Ollama: bir modeli içe aktarma
Dosya tarayıcınızda okunur ve yüklenmez. Yalnızca başı okunur.
GGUF, llama.cpp ve Ollama'nın modeller için kullandığı dosya biçimidir. Bir GGUF dosyası bir başlıkla başlar: biçim sürümü, meta veri girdilerinin listesi (general.architecture, <architecture>.context_length, tokenizer.ggml.tokens ve tokenizer.chat_template gibi) ve adları, şekilleri, türleri ve konumlarıyla tensörlerin listesi. Ağırlıklar bunun ardından gelir. Bu araç yalnızca bu başlığı okur; ggml deposundaki GGUF belirtiminde yer alan düzeni kullanır, bu yüzden birkaç gigabaytlık bir dosya anında açılır: qwen2.5:7b için başlık, 4.36 GiB'lik bir dosyada 5.7 MiB'dir. Başlıktan modelin adını, mimarisini ve nicemlemesini (general.file_type) gösterir, parametreleri tensör şekillerinden sayar ve llama.cpp'nin gguf-py içindeki blok boyutlarını kullanarak her tensör türü için ağırlıkların boyutunu toplar. Modelin şeklini (katmanlar, dikkat başlıkları, KV başlıkları, baş boyutu, RoPE ayarları, uzmanlar), metin başı ve metin sonu token'larıyla tokenizer'ı ve sohbet şablonunu gösterir. Katmanlardan, KV başlıklarından ve baş boyutundan, Ollama'nın varsayılanı olan f16 için KV önbelleğini hesaplar: 2 (anahtarlar ve değerler) × katmanlar × KV başlıkları × baş boyutu × 2 bayt × bağlam uzunluğu. Ayrıca llama.cpp'nin kendi okuyucusunun (gguf.cpp) denetlediği şeyleri denetler; örneğin biçim sürümü, bayt sırası, yinelenen anahtarlar ve tensör adları, hizalama, tensör türleri ve her tensörün konumu. Başlığın tanımladığı boyutu da dosyanın boyutuyla karşılaştırır. Aracı, Ollama 0.40.11'in sakladığı qwen2.5:7b'nin gerçek dosyasıyla denetledik: meta veriler, 339 tensör (adlar, türler ve şekiller) ve parametre sayısı Ollama'nın /api/show çıktısıyla eşleşti, başlıktan hesaplanan boyut da dosyayla bayt bayt eşleşti.
Bu aracın temel mantığı MIT lisansıyla açık kaynaktır. github.com/seigo5555/toolkitbox-lib/src/gguf.ts
Kullanım örnekleri
- Hugging Face'ten indirdiğiniz bir GGUF'u Ollama'ya aktarmadan önce denetleyin: nicemleme, bağlam uzunluğu, sohbet şablonu ve indirmenin tam olup olmadığı
- Bir modelin ağırlıklarının ve KV önbelleğinin ne kadar bellek gerektirdiğini dosyanın kendisinden görün
- Ollama'da zaten bulunan bir modelin meta verilerine ve tensörlerine, Ollama'nın models/blobs klasöründeki dosyasını açarak bakın
Nasıl kullanılır
- Bir .gguf dosyası seçin ya da kutunun üzerine bırakın. Ollama'daki bir modele bakmak için ollama show --modelfile <model>, dosyasının yolunu FROM'dan sonra yazdırır.
- Araç dosyanın başını okur ve modeli, şeklini, KV önbelleğini, türe göre ağırlıkları ve tokenizer'ı gösterir.
- Tam listeler için "Tüm meta veriler" veya "Tüm tensörler" bölümünü açın. Henüz Ollama'da olmayan bir dosya için araç, onu içe aktaracak Modelfile satırını gösterir.
SSS
Dosya yükleniyor mu?
Hayır. Tarayıcı dosyayı bilgisayarınızda okur ve araç yalnızca başını okur: meta verileri ve tensör listesini içeren başlığı. Ağırlıklar okunmaz.
Araç neden dosyanın başlığın söylediğinden kısa olduğunu söylüyor?
Başlık her tensörü boyutu ve konumuyla listeler, bu yüzden dosyanın ne kadar büyük olması gerektiğini söyler. Dosya daha kısaysa ağırlıkların bir kısmı eksiktir; örneğin bir indirme ya da kopyalama erken durmuştur. llama.cpp böyle bir dosyada "model is corrupted or incomplete" iletisiyle durur.
general.file_type ile tensör türleri arasındaki fark nedir?
general.file_type, dosyanın ana nicemlemesini adlandırır; örneğin Q4_K_M. Bir dosya türleri karıştırır: qwen2.5:7b Q4_K_M içinde tensörlerin çoğu Q4_K, bazıları Q6_K, normalleştirme ağırlıkları gibi küçük olanlar ise F32'dir. Türe göre ağırlıklar tablosu bu karışımı gösterir.
Ollama'nın zaten indirdiği model dosyalarını açabilir miyim?
Evet. Ollama bir modelin ağırlıklarını models/blobs klasöründe, sha256-… adlı bir dosyada saklar. Testimizde ollama show --modelfile qwen2.5:7b, bu dosyanın yolunu FROM'dan sonra yazdırdı ve dosya bir GGUF dosyasıydı.
Bir GGUF'u Ollama'ya nasıl aktarırım?
Ollama'nın içe aktarma kılavuzu, FROM /path/to/file.gguf içeren bir Modelfile kullanır ve ardından ollama create çalıştırır. Birkaç dosyaya bölünmüş bir model için özgün dosya adlarını koruyun ve her parçayla eşleşen bir joker karakter kullanın. Ollama, içe aktarma sırasında GGUF modellerini nicemlemez.
KV önbelleği boyutu ne kadar doğru?
Formül, testimizde Ollama'nın günlüğüyle eşleşti (qwen2.5:7b için 4096 token'da 224 MiB). Ollama'nın varsayılanı olan f16 içindir. Kayan pencereli, paylaşılan ya da sıkıştırılmış KV önbellekli veya özyinelemeli katmanlı modeller farklı bir miktar kullanır; meta veriler bunu gösterdiğinde araç bunu belirtir.