~/tools / モデルのファイルとチャットテンプレート / GGUF Metadata Viewer

GGUF Metadata Viewer — GGUF の量子化・コンテキスト・KV キャッシュを確認

GGUF のモデルファイルをブラウザで開き、モデルを読み込まずに中身を確認できます。アーキテクチャ、量子化、パラメータ数、最長のコンテキスト、レイヤーとアテンションヘッド、トークナイザーと特殊トークン、チャットテンプレート、すべてのメタデータ、すべてのテンソルが見られます。コンテキスト長ごとの KV キャッシュも計算し、llama.cpp と同じ方法でファイルを検査するので、Ollama に取り込む前にダウンロードの未完了に気づけます。読み込むのはファイルの先頭だけで、何もアップロードされません。

ここにファイルをドロップすることもできます。読み込むのはファイルの先頭だけで、ファイルはお使いのコンピューターから出ません。私たちのテストでは、Ollama が models/blobs フォルダに保存している重みのファイルも GGUF でした。

KV キャッシュ = 2 × レイヤー数 × KV ヘッド数 × ヘッドサイズ × 2 バイト (f16) × コンテキスト長。qwen2.5:7b では 4096 トークンで 224 MiB で、私たちのテストで Ollama のログに出た値と同じです。

重みはファイルに保存されているテンソルのデータで、ヘッダーと合わせてファイルになります。モデルを動かすには KV キャッシュと作業用のメモリも必要です。メモリ見積もりツールでそれらを加えられます。

2026-11-08 に、GGUF 仕様と llama.cpp のリーダーに照らして、また qwen2.5:7b の実ファイルで確認しました。メタデータと 339 個のテンソルは、Ollama 0.40.11 が返す内容と一致しました。 GGUF 仕様 · Ollama: モデルの取り込み

ファイルはブラウザの中で読み込まれ、アップロードされません。読み込むのは先頭だけです。

GGUF は、llama.cpp と Ollama がモデルに使うファイル形式です。GGUF ファイルの先頭にはヘッダーがあり、フォーマットのバージョン、メタデータの一覧(general.architecture、<architecture>.context_length、tokenizer.ggml.tokens、tokenizer.chat_template など)、テンソルの名前・形状・型・位置の一覧が入っています。重みはその後ろに続きます。このツールは、ggml リポジトリにある GGUF 仕様のレイアウトに従ってこのヘッダーだけを読むので、数 GB のファイルでも一瞬で開けます。qwen2.5:7b では、4.36 GiB のファイルのうちヘッダーは 5.7 MiB です。ヘッダーから、モデルの名前、アーキテクチャ、量子化(general.file_type)を表示し、テンソルの形状からパラメータ数を数え、llama.cpp の gguf-py にあるブロックサイズを使ってテンソルの型ごとに重みの大きさを合計します。モデルの形(レイヤー、アテンションヘッド、KV ヘッド、ヘッドサイズ、RoPE の設定、エキスパート)、文頭と文末のトークンを含むトークナイザー、チャットテンプレートも表示します。レイヤー、KV ヘッド、ヘッドサイズから、Ollama のデフォルトである f16 の KV キャッシュを計算します。2 (キーと値) × レイヤー数 × KV ヘッド数 × ヘッドサイズ × 2 バイト × コンテキスト長 です。さらに、llama.cpp 自身のリーダー(gguf.cpp)が検査する項目、つまりフォーマットのバージョン、バイト順、キーとテンソル名の重複、アライメント、テンソルの型、各テンソルの位置を検査し、ヘッダーが示すサイズとファイルのサイズを比べます。私たちは、Ollama 0.40.11 が保存している qwen2.5:7b の実ファイルでツールを確認しました。メタデータ、339 個のテンソル(名前、型、形状)、パラメータ数は Ollama の /api/show が返す内容と一致し、ヘッダーから計算したサイズもファイルとバイト単位で一致しました。

このツールの計算部分は、オープンソース(MIT ライセンス)で公開しています。 github.com/seigo5555/toolkitbox-lib/src/gguf.ts

こんな時に使う

  • Hugging Face からダウンロードした GGUF を Ollama に取り込む前に、量子化、コンテキスト長、チャットテンプレート、ダウンロードが完了しているかを確認する
  • モデルの重みと KV キャッシュに必要なメモリを、ファイルそのものから調べる
  • Ollama がすでに持っているモデルのメタデータとテンソルを、Ollama の models/blobs フォルダにあるファイルを開いて見る

使い方

  1. .gguf ファイルを選ぶか、枠にドロップします。Ollama にあるモデルを見る場合は、ollama show --modelfile <model> を実行すると、FROM の後ろにファイルのパスが表示されます。
  2. ツールがファイルの先頭を読み、モデル、その形、KV キャッシュ、型ごとの重み、トークナイザーを表示します。
  3. 「すべてのメタデータ」または「すべてのテンソル」を開くと、完全な一覧が見られます。まだ Ollama にないファイルには、取り込むための Modelfile の行が表示されます。

FAQ

ファイルはアップロードされますか?

いいえ。ブラウザがお使いのコンピューター上でファイルを読み、ツールが読むのは先頭のヘッダー(メタデータとテンソルの一覧)だけで、重みは読み込みません。

ファイルがヘッダーの示す大きさより小さいと表示されるのはなぜですか?

ヘッダーにはすべてのテンソルの大きさと位置が書かれているので、ファイルがどれだけの大きさになるはずかが分かります。ファイルがそれより小さい場合は、ダウンロードやコピーが途中で止まったなどの理由で、重みの一部が欠けています。llama.cpp はそのようなファイルに対して "model is corrupted or incomplete" と表示して止まります。

general.file_type とテンソルの型はどう違いますか?

general.file_type は、ファイルの主な量子化を示します(Q4_K_M など)。ファイルには複数の型が混ざっています。qwen2.5:7b の Q4_K_M では、ほとんどのテンソルが Q4_K で、一部が Q6_K、正規化の重みのような小さいものは F32 です。型ごとの重みの表で、その内訳が分かります。

Ollama がすでにダウンロードしたモデルのファイルを開けますか?

はい。Ollama はモデルの重みを models/blobs フォルダに、sha256-… という名前のファイルとして保存しています。私たちのテストでは、ollama show --modelfile qwen2.5:7b が FROM の後ろにそのファイルのパスを表示し、それは GGUF ファイルでした。

GGUF を Ollama に取り込むには?

Ollama のインポートガイドでは、FROM /path/to/file.gguf を書いた Modelfile を用意し、ollama create を実行します。複数のファイルに分割されたモデルは、元のファイル名のままにして、すべての分割ファイルに一致するワイルドカードを使います。Ollama は、取り込みの際に GGUF のモデルを量子化しません。

KV キャッシュの大きさはどのくらい正確ですか?

私たちのテストでは、この式は Ollama のログと一致しました(qwen2.5:7b の 4096 トークンで 224 MiB)。Ollama のデフォルトである f16 の場合です。スライディングウィンドウ、共有または圧縮された KV キャッシュ、再帰レイヤーを持つモデルでは量が異なります。メタデータからそれが分かる場合は、ツールが知らせます。

関連ツール