~/tools / Rodar um LLM local no seu servidor / Ollama Model Info Reader
Ollama Model Info Reader — Leia ollama show: contexto, camadas, capacidades, licença, KV cache
Cole a resposta de /api/show de um modelo do Ollama, ou a saída de ollama show ou ollama show --verbose, e veja o modelo de relance: tamanho, quantização, o maior contexto que ele suporta, camadas e cabeças de atenção, o que ele sabe fazer (tools, vision, thinking, embeddings e mais), seus parâmetros padrão, o system prompt e a licença. A ferramenta também calcula o KV cache para cada tamanho de contexto, a memória que cresce com num_ctx. Nada sai do seu navegador.
Como obter
Troque qwen2.5:7b pelo seu modelo. Os dois funcionam enquanto o Ollama está em execução.
curl http://localhost:11434/api/show -d '{"model": "qwen2.5:7b"}'
ollama show qwen2.5:7b --verboseLido como uma resposta de /api/show.
- O tamanho da cabeça não está nos metadados, então é calculado como embedding_length ÷ head_count = 128.
Modelo
- Nome
- Qwen2.5 7B Instruct
- Arquitetura
- qwen2
- Parâmetros
- 7.62B
- Quantização
- Q4_K_M
- Maior contexto
- 32768
- Camadas
- 28
- Cabeças de atenção
- 28 (KV: 4)
- Tamanho da cabeça
- 128
- Tamanho do embedding
- 3584
- Origem do template
- go_template
Capacidades
- completionGera texto com /api/generate e /api/chat.
- toolsAceita tools, então pode chamar funções.
KV cache por tamanho de contexto
Em f16, o tipo padrão. Esta memória vem somada à dos pesos.
| Contexto (tokens) | KV cache |
|---|---|
| 2048 | 112 MiB |
| 4096o padrão no FAQ do Ollama | 224 MiB |
| 8192 | 448 MiB |
| 16384 | 896 MiB |
| 32768maior suportado | 1792 MiB |
System prompt
You are Qwen, created by Alibaba Cloud. You are a helpful assistant.
Licença
- general.license
- apache-2.0
- general.license.link
- https://huggingface.co/Qwen/Qwen2.5-7B-Instruct/blob/main/LICENSE
Apache License ...
KV cache = 2 × camadas × cabeças KV × tamanho da cabeça × 2 bytes (f16) × tamanho do contexto. Os valores coincidiram com o log do Ollama nos nossos testes. O FAQ do Ollama diz que q8_0 usa cerca da metade e q4_0 cerca de um quarto do f16 (definido com OLLAMA_KV_CACHE_TYPE, com Flash Attention).
O maior contexto é o que o modelo suporta, não o que o Ollama usa. O FAQ do Ollama indica 4096 tokens como padrão; num_ctx numa requisição ou no modelo, ou OLLAMA_CONTEXT_LENGTH no servidor, o altera.
Campos da referência da API e do código-fonte do Ollama (v0.40.15), conferidos com o Ollama 0.40.11 em 2026-11-07. Ollama: Show model details
Tudo é feito no seu navegador. A ferramenta não se conecta a nada.
ollama show e o endpoint /api/show descrevem um modelo instalado, mas os dados mais úteis estão espalhados numa longa lista de metadados GGUF: o número de camadas é <architecture>.block_count, o maior contexto é <architecture>.context_length, e as cabeças de atenção que definem o tamanho do KV cache são attention.head_count e attention.head_count_kv. Esta ferramenta lê o JSON de /api/show, ou o texto de ollama show (a versão curta ou --verbose), e reúne esses dados em um só lugar. Ela lista as capacidades com o significado de cada uma, usando os nomes do código-fonte do Ollama (v0.40.15): completion, tools, insert, vision, embedding, thinking, image, audio, decision e speech. Para modelos com thinking, mostra os valores que think aceita e o padrão. Mostra os parâmetros definidos no modelo, como stop, temperature ou num_ctx, o system prompt e a licença. A partir das camadas, das cabeças KV e do tamanho da cabeça, calcula o KV cache em f16, o tipo padrão: 2 (chaves e valores) × camadas × cabeças KV × tamanho da cabeça × 2 bytes × tamanho do contexto. Conferimos essa fórmula com o próprio log do Ollama: para o qwen2.5:7b, 224 MiB com 4096 tokens e 448 MiB com 8192, e para o qwen2.5:0.5b, 48 MiB com 4096 e 384 MiB com 32768. O tamanho da cabeça vem de attention.key_length quando o modelo o tem, e caso contrário de embedding_length dividido por head_count. Modelos com janela deslizante ou com camadas que compartilham o KV cache usam menos do que a tabela mostra; a ferramenta avisa isso em vez de adivinhar. Testamos a ferramenta com a saída real de /api/show, ollama show e ollama show --verbose para o qwen2.5:7b no Ollama 0.40.11, e com o exemplo da referência da API do Ollama.
A lógica principal desta ferramenta é de código aberto, sob a licença MIT. github.com/seigo5555/toolkitbox-lib/src/ollama-show.ts
Casos de uso
- Descobrir se um modelo suporta tools, imagens ou thinking antes de construir em cima dele
- Ver o maior contexto que um modelo suporta e quanta memória o KV cache precisa em cada tamanho
- Conferir a licença, os parâmetros padrão e o system prompt que acompanham um modelo
Como usar
- Execute curl http://localhost:11434/api/show com o nome do modelo, ou ollama show com --verbose.
- Cole a saída. A ferramenta detecta qual das três formas é.
- Leia o resumo do modelo, as capacidades e a tabela do KV cache. Abra o estimador de memória para somar os pesos.
FAQ
Por que o KV cache não aparece para o que colei?
A saída curta de ollama show não inclui as camadas nem as cabeças de atenção. Cole a resposta de /api/show ou a saída de ollama show --verbose.
O modelo suporta 32768 tokens. Por que o Ollama usa menos?
O tamanho de contexto nos metadados é o maior para o qual o modelo foi treinado. O FAQ do Ollama diz que a janela de contexto padrão é de 4096 tokens; o código-fonte e o log do servidor do Ollama mostram que o servidor escolhe um padrão com base na memória da GPU. Uma requisição pode definir num_ctx, o modelo pode defini-lo nos seus parâmetros e o servidor pode definir OLLAMA_CONTEXT_LENGTH.
Quão preciso é o tamanho do KV cache?
Para modelos sem janela deslizante nem camadas KV compartilhadas, a fórmula deu exatamente os tamanhos do log do Ollama nos nossos testes (224 MiB para o qwen2.5:7b com 4096 tokens). Vale para o tipo padrão f16; o FAQ do Ollama diz que q8_0 usa cerca da metade e q4_0 cerca de um quarto, com Flash Attention ativado.
Qual é a diferença entre os parâmetros e o tamanho do contexto?
O tamanho do contexto vem do arquivo do modelo e é o máximo. Parâmetros como num_ctx, temperature ou stop são padrões definidos no Modelfile do modelo; as requisições podem sobrescrevê-los.
O que significa a origem do template?
Indica de onde vem o prompt de chat, por exemplo go_template para um template Go dentro do modelo ou renderer para um renderizador embutido no Ollama. Os valores estão listados na referência da API do Ollama.
Meus dados são enviados para algum lugar?
Não. A saída é lida no seu navegador.
Artigos relacionados
- Acompanhe a memória do Ollama em uma VPS pequenaVeja o que o Ollama mantém na memória, por quanto tempo e quais configurações mudam isso: ollama ps, keep_alive e os limites, a partir do FAQ oficial.
- Conectar o Dify ao Ollama no seu próprio VPSExecute o Dify no seu próprio VPS e use o Ollama como modelo: instalação, campos do plugin, o problema do endereço no Docker e embeddings, segundo a documentação oficial.
- Rodar um LLM local sem um PC caro: guia para iniciantes sobre como usar uma VPSSem um PC potente? Alugue uma VPS e rode um pequeno LLM local pelo navegador: seis passos, da estimativa de memória até uma tela de chat protegida, com os limites ditos com honestidade.