~/tools / Menjalankan LLM lokal di server Anda / Ollama Model Info Reader

Ollama Model Info Reader — Baca ollama show: konteks, layer, kemampuan, lisensi, KV cache

Tempel respons /api/show dari sebuah model Ollama, atau keluaran ollama show atau ollama show --verbose, dan lihat gambaran modelnya sekilas: ukuran, kuantisasi, konteks terpanjang yang didukung, layer dan attention head, kemampuannya (tools, vision, thinking, embeddings, dan lainnya), parameter bawaan, system prompt, serta lisensinya. Alat ini juga menghitung KV cache untuk setiap panjang konteks, yaitu memori yang bertambah seiring num_ctx. Tidak ada data yang keluar dari browser Anda.

Respons /api/show atau keluaran ollama showJSON dari /api/show, atau teks ollama show (dengan atau tanpa --verbose)

{
  "license": "Apache License\n...",
  "modelfile": "# Modelfile generated by \"ollama show\"\n...",
  "template": "{{- if .Messages }}\n{{- if or .System .Tools }}<|im_start|>system\n{{- if .System...",
  "system": "You are Qwen, created by Alibaba Cloud. You are a helpful assistant.",
  "template_source": "go_template",
  "details": {
    "parent_model": "",
    "format": "gguf",
    "family": "qwen2",
    "families": [
      "qwen2"
    ],
    "parameter_size": "7.6B",
    "quantization_level": "Q4_K_M"
  },
  "model_info": {
    "general.architecture": "qwen2",
    "general.base_model.0.name": "Qwen2.5 7B",
    "general.base_model.0.organization": "Qwen",
    "general.base_model.0.repo_url": "https://huggingface.co/Qwen/Qwen2.5-7B",
    "general.base_model.count": 1,
    "general.basename": "Qwen2.5",
    "general.file_type": 15,
    "general.finetune": "Instruct",
    "general.languages": [
      "en"
    ],
    "general.license": "apache-2.0",
    "general.license.link": "https://huggingface.co/Qwen/Qwen2.5-7B-Instruct/blob/main/LICENSE",
    "general.parameter_count": 7615616512,
    "general.quantization_version": 2,
    "general.size_label": "7B",
    "general.tags": [
      "chat",
      "text-generation"
    ],
    "general.type": "model",
    "qwen2.attention.head_count": 28,
    "qwen2.attention.head_count_kv": 4,
    "qwen2.attention.layer_norm_rms_epsilon": 1e-06,
    "qwen2.block_count": 28,
    "qwen2.context_length": 32768,
    "qwen2.embedding_length": 3584,
    "qwen2.feed_forward_length": 18944,
    "qwen2.rope.freq_base": 1000000,
    "tokenizer.ggml.add_bos_token": false,
    "tokenizer.ggml.bos_token_id": 151643,
    "tokenizer.ggml.eos_token_id": 151645,
    "tokenizer.ggml.merges": [],
    "tokenizer.ggml.model": "gpt2",
    "tokenizer.ggml.padding_token_id": 151643,
    "tokenizer.ggml.pre": "qwen2",
    "tokenizer.ggml.token_type": [],
    "tokenizer.ggml.tokens": []
  },
  "capabilities": [
    "completion",
    "tools"
  ],
  "modified_at": "2026-09-24T09:22:59.377956686+09:00"
}

Cara mendapatkannya

Ganti qwen2.5:7b dengan model Anda. Keduanya berfungsi selama Ollama berjalan.

curl http://localhost:11434/api/show -d '{"model": "qwen2.5:7b"}'

ollama show qwen2.5:7b --verbose

Dibaca sebagai sebuah respons /api/show.

Ukuran head tidak ada di metadata, jadi dihitung sebagai embedding_length ÷ head_count = 128.

Model

Nama: Qwen2.5 7B Instruct
Arsitektur: qwen2
Parameter: 7.62B
Kuantisasi: Q4_K_M
Konteks terpanjang: 32768
Layer: 28
Attention head: 28 (KV: 4)
Ukuran head: 128
Panjang embedding: 3584
Sumber template: go_template

Kemampuan

completionMenghasilkan teks dengan /api/generate dan /api/chat.
toolsMenerima tools, sehingga dapat memanggil fungsi.

KV cache menurut panjang konteks

Pada f16, tipe bawaan. Memori ini ditambahkan di atas bobot.

Konteks (token)	KV cache
2048	112 MiB
4096bawaan menurut FAQ Ollama	224 MiB
8192	448 MiB
16384	896 MiB
32768terpanjang yang didukung	1792 MiB

Tambahkan bobot di Local LLM Memory Estimator →

System prompt

You are Qwen, created by Alibaba Cloud. You are a helpful assistant.

Lisensi

general.license: apache-2.0
general.license.link: https://huggingface.co/Qwen/Qwen2.5-7B-Instruct/blob/main/LICENSE

Apache License
...

KV cache = 2 × layer × KV heads × ukuran head × 2 byte (f16) × panjang konteks. Nilainya cocok dengan log Ollama dalam pengujian kami. FAQ Ollama menyebut q8_0 memakai sekitar setengah dan q4_0 sekitar seperempat dari f16 (diatur dengan OLLAMA_KV_CACHE_TYPE, dengan Flash Attention).

Konteks terpanjang adalah yang didukung model, bukan yang dipakai Ollama. FAQ Ollama menyebut 4096 token sebagai bawaan; num_ctx di permintaan atau di model, atau OLLAMA_CONTEXT_LENGTH di server, mengubahnya.

Field berasal dari referensi API dan kode sumber Ollama (v0.40.15), diperiksa terhadap Ollama 0.40.11 pada 2026-11-07. Ollama: Show model details

Semuanya dikerjakan di browser Anda. Alat ini tidak terhubung ke mana pun.

ollama show dan endpoint /api/show menjelaskan model yang terpasang, tetapi fakta yang paling berguna tersebar di daftar panjang metadata GGUF: jumlah layer adalah <architecture>.block_count, konteks terpanjang adalah <architecture>.context_length, dan attention head yang menentukan ukuran KV cache adalah attention.head_count dan attention.head_count_kv. Alat ini membaca JSON dari /api/show, atau teks ollama show (versi singkat maupun --verbose), lalu menempatkan fakta-fakta itu di satu tempat. Alat ini mendaftar kemampuan beserta arti masing-masing, memakai nama yang ada di kode sumber Ollama (v0.40.15): completion, tools, insert, vision, embedding, thinking, image, audio, decision, dan speech. Untuk model thinking, alat ini menampilkan nilai yang diterima think beserta nilai bawaannya. Alat ini menampilkan parameter yang diatur di dalam model, seperti stop, temperature, atau num_ctx, serta system prompt dan lisensi. Dari jumlah layer, jumlah KV head, dan ukuran head, alat ini menghitung KV cache pada f16, tipe bawaan: 2 (key dan value) × layer × KV heads × ukuran head × 2 byte × panjang konteks. Kami memeriksa rumus ini terhadap log Ollama sendiri: untuk qwen2.5:7b, 224 MiB pada 4096 token dan 448 MiB pada 8192, dan untuk qwen2.5:0.5b, 48 MiB pada 4096 dan 384 MiB pada 32768. Ukuran head diambil dari attention.key_length jika model memilikinya, dan jika tidak, dari embedding_length dibagi head_count. Model dengan sliding window atau dengan layer yang berbagi KV cache memakai lebih sedikit daripada yang ditunjukkan tabel; alat ini menyatakannya alih-alih menebak. Kami menguji alat ini dengan keluaran asli /api/show, ollama show, dan ollama show --verbose untuk qwen2.5:7b di Ollama 0.40.11, serta dengan contoh di referensi API Ollama.

Logika utama alat ini bersifat sumber terbuka dengan lisensi MIT. github.com/seigo5555/toolkitbox-lib/src/ollama-show.ts

Kapan dipakai

Mencari tahu apakah sebuah model mendukung tools, gambar, atau thinking sebelum Anda membangun di atasnya
Melihat konteks terpanjang yang didukung sebuah model dan berapa memori yang dibutuhkan KV cache pada setiap panjang
Memeriksa lisensi, parameter bawaan, dan system prompt yang menyertai sebuah model

Cara pakai

Jalankan curl http://localhost:11434/api/show dengan nama model, atau ollama show dengan --verbose.
Tempel keluarannya. Alat ini mendeteksi sendiri yang mana dari ketiga bentuk itu.
Baca ringkasan model, kemampuan, dan tabel KV cache. Buka estimator memori untuk menambahkan bobot.

Tanya jawab

Mengapa KV cache tidak ditampilkan untuk teks yang saya tempel?

Keluaran singkat ollama show tidak memuat jumlah layer dan attention head. Tempel respons /api/show atau keluaran ollama show --verbose.

Model mendukung 32768 token. Mengapa Ollama memakai lebih sedikit?

Panjang konteks di metadata adalah yang terpanjang yang dipakai saat model dilatih. FAQ Ollama menyebut jendela konteks bawaan adalah 4096 token; kode sumber dan log server Ollama menunjukkan bahwa server memilih nilai bawaan berdasarkan memori GPU. Sebuah permintaan dapat menetapkan num_ctx, model dapat menetapkannya di parameternya, dan server dapat menetapkan OLLAMA_CONTEXT_LENGTH.

Seberapa akurat ukuran KV cache?

Untuk model tanpa sliding window atau layer KV bersama, dalam pengujian kami rumus ini menghasilkan ukuran yang persis sama dengan log Ollama (224 MiB untuk qwen2.5:7b pada 4096 token). Rumus ini untuk tipe bawaan f16; FAQ Ollama menyebut q8_0 memakai sekitar setengahnya dan q4_0 sekitar seperempatnya, bila Flash Attention diaktifkan.

Apa bedanya parameter dengan panjang konteks?

Panjang konteks berasal dari file model dan merupakan batas maksimum. Parameter seperti num_ctx, temperature, atau stop adalah nilai bawaan yang diatur di Modelfile model; permintaan dapat menimpanya.

Apa arti sumber template?

Ini menunjukkan dari mana prompt chat berasal, misalnya go_template untuk template Go di dalam model atau renderer untuk renderer yang terpasang di Ollama. Nilai-nilainya tercantum di referensi API Ollama.

Apakah data saya dikirim ke suatu tempat?

Tidak. Keluaran dibaca di browser Anda.

Terkait

Local LLM Memory Estimator Ollama Modelfile Generator Ollama Log Reader GGUF Metadata Viewer