~/tools / File model dan templat obrolan / GGUF Metadata Viewer
GGUF Metadata Viewer — Buka file GGUF: kuantisasi, konteks, tokenizer, tensor, KV cache
Buka file model GGUF di browser Anda dan lihat isinya tanpa memuat modelnya: arsitektur, kuantisasi, jumlah parameter, konteks terpanjang, layer dan attention head, tokenizer beserta token khususnya, chat template, setiap entri metadata, dan setiap tensor. Alat ini juga menghitung KV cache untuk setiap panjang konteks dan memeriksa file seperti yang dilakukan llama.cpp, sehingga Anda bisa menemukan unduhan yang belum lengkap sebelum mengimpornya ke Ollama. Hanya bagian awal file yang dibaca, dan tidak ada yang diunggah.
Atau jatuhkan file di sini. Hanya bagian awal file yang dibaca, dan file tetap di komputer Anda. Dalam pengujian kami, file bobot yang disimpan Ollama di folder models/blobs juga merupakan file GGUF.
KV cache = 2 × layer × KV heads × ukuran head × 2 byte (f16) × panjang konteks. Untuk qwen2.5:7b ini menghasilkan 224 MiB pada 4096 token, ukuran yang tercatat di log Ollama dalam pengujian kami.
Bobot adalah data tensor yang disimpan di file; bersama header, keduanya membentuk file. Menjalankan model juga membutuhkan KV cache dan memori kerja, yang ditambahkan oleh estimator memori.
Diperiksa pada 2026-11-08 terhadap spesifikasi GGUF dan pembaca milik llama.cpp, serta dengan file asli qwen2.5:7b: metadata dan 339 tensornya cocok dengan yang dilaporkan Ollama 0.40.11. Spesifikasi GGUF · Ollama: mengimpor model
File dibaca di browser Anda dan tidak diunggah. Hanya bagian awalnya yang dibaca.
GGUF adalah format file yang dipakai llama.cpp dan Ollama untuk model. File GGUF diawali dengan header: versi format, daftar entri metadata (seperti general.architecture, <architecture>.context_length, tokenizer.ggml.tokens, dan tokenizer.chat_template), serta daftar tensor beserta nama, bentuk, tipe, dan posisinya. Bobot menyusul setelahnya. Alat ini hanya membaca header itu, dengan tata letak dalam spesifikasi GGUF di repositori ggml, sehingga file berukuran beberapa gigabyte terbuka dalam sekejap: untuk qwen2.5:7b, header berukuran 5.7 MiB dari file 4.36 GiB. Dari header, alat ini menampilkan nama, arsitektur, dan kuantisasi model (general.file_type), menghitung parameter dari bentuk tensor, dan menjumlahkan ukuran bobot untuk setiap tipe tensor, memakai ukuran blok di gguf-py milik llama.cpp. Alat ini menampilkan bentuk model (layer, attention head, KV head, ukuran head, pengaturan RoPE, expert), tokenizer beserta token awal dan akhir teks, dan chat template. Dari layer, KV head, dan ukuran head, alat ini menghitung KV cache pada f16, bawaan Ollama: 2 (kunci dan nilai) × layer × KV head × ukuran head × 2 byte × panjang konteks. Alat ini juga memeriksa apa yang diperiksa oleh pembaca milik llama.cpp sendiri (gguf.cpp), seperti versi format, urutan byte, kunci dan nama tensor yang duplikat, perataan, tipe tensor, dan posisi setiap tensor, serta membandingkan ukuran yang digambarkan header dengan ukuran file. Kami memeriksa alat ini dengan file asli qwen2.5:7b yang disimpan Ollama 0.40.11: metadata, 339 tensor (nama, tipe, dan bentuk), dan jumlah parameter cocok dengan yang dilaporkan /api/show milik Ollama, dan ukuran yang dihitung dari header cocok dengan file hingga ke byte.
Logika utama alat ini bersifat sumber terbuka dengan lisensi MIT. github.com/seigo5555/toolkitbox-lib/src/gguf.ts
Kapan dipakai
- Memeriksa GGUF yang Anda unduh dari Hugging Face sebelum mengimpornya ke Ollama: kuantisasi, panjang konteks, chat template, dan apakah unduhannya lengkap
- Melihat berapa memori yang dibutuhkan bobot dan KV cache sebuah model, langsung dari filenya
- Melihat metadata dan tensor model yang sudah ada di Ollama, dengan membuka filenya di folder models/blobs milik Ollama
Cara pakai
- Pilih file .gguf atau jatuhkan ke dalam kotak. Untuk melihat model yang dimiliki Ollama, ollama show --modelfile <model> mencetak path filenya setelah FROM.
- Alat ini membaca bagian awal file dan menampilkan model, bentuknya, KV cache, bobot menurut tipe, dan tokenizer.
- Buka "Semua metadata" atau "Semua tensor" untuk daftar lengkapnya. Untuk file yang belum ada di Ollama, alat ini menampilkan baris Modelfile untuk mengimpornya.
Tanya jawab
Apakah file diunggah?
Tidak. Browser membaca file di komputer Anda, dan alat ini hanya membaca bagian awalnya: header yang berisi metadata dan daftar tensor. Bobot tidak dibaca.
Mengapa alat ini mengatakan file lebih pendek daripada yang dinyatakan header?
Header mendaftar setiap tensor beserta ukuran dan posisinya, sehingga header menunjukkan seberapa besar file seharusnya. Jika file lebih pendek, sebagian bobot hilang, misalnya karena unduhan atau penyalinan berhenti lebih awal. llama.cpp berhenti dengan "model is corrupted or incomplete" untuk file seperti itu.
Apa perbedaan antara general.file_type dan tipe tensor?
general.file_type menyebut kuantisasi utama file, seperti Q4_K_M. Sebuah file mencampur beberapa tipe: di qwen2.5:7b Q4_K_M, sebagian besar tensor adalah Q4_K, sebagian Q6_K, dan yang kecil seperti bobot normalisasi adalah F32. Tabel bobot menurut tipe menunjukkan campurannya.
Bisakah saya membuka file model yang sudah diunduh Ollama?
Bisa. Ollama menyimpan bobot model di folder models/blobs, dalam file bernama sha256-…. Dalam pengujian kami, ollama show --modelfile qwen2.5:7b mencetak path file itu setelah FROM, dan file itu adalah file GGUF.
Bagaimana cara mengimpor GGUF ke Ollama?
Panduan impor Ollama memakai Modelfile dengan FROM /path/to/file.gguf lalu ollama create. Untuk model yang dipecah menjadi beberapa file, pertahankan nama file aslinya dan pakai wildcard yang cocok dengan setiap bagian. Ollama tidak mengkuantisasi model GGUF saat impor.
Seberapa akurat ukuran KV cache?
Rumusnya cocok dengan log Ollama dalam pengujian kami (224 MiB untuk qwen2.5:7b pada 4096 token). Rumus ini untuk f16, bawaan Ollama. Model dengan sliding window, KV cache yang dibagi atau dikompresi, atau layer rekuren memakai jumlah yang berbeda; alat ini memberi tahu bila metadata menunjukkannya.