~/tools / Local LLM Memory Estimator
Local LLM Memory Estimator — Estime a memória de um LLM local: arquivo do modelo mais KV cache
Estime quanta memória um LLM local precisa em uma VPS ou na sua própria máquina: o arquivo do modelo mais o KV cache para o seu tamanho de contexto e o número de requisições paralelas. As predefinições usam os tamanhos de download e as configurações oficiais dos modelos Qwen3 e Mistral 7B. Nada sai do seu navegador.
Estimativa
- Pesos do modelo
- 4.84 GiB
- KV cache
- 0.56 GiB
- Reserva
- 1.00 GiB
- Total
- 6.41 GiB (6.88 GB)
- Menor tamanho de memória comum que o comporta
- 8 GiB
Esta é uma estimativa. Ela não inclui os buffers de computação do runtime e supõe que todas as camadas têm o mesmo formato de KV. Meça uma execução real antes de escolher um plano.
Dados do modelo verificados em 2026-10-26.
Fontes: Ollama library · Configuração do modelo (config.json) · Ollama FAQ
Tudo é executado no seu navegador. Nada é enviado.
Um modelo de linguagem local precisa de memória para duas coisas. A primeira é o próprio modelo, que ocupa aproximadamente o mesmo que o seu arquivo de download. A segunda é o KV cache, que cresce com o tamanho do contexto e com o número de requisições que o servidor atende ao mesmo tempo. O Ollama FAQ afirma que a RAM necessária escala com OLLAMA_NUM_PARALLEL multiplicado por OLLAMA_CONTEXT_LENGTH, e que quantizar o cache com q8_0 usa aproximadamente metade da memória do f16 e q4_0 cerca de um quarto. Esta ferramenta soma as duas partes para você. Ela obtém o tamanho do arquivo na Ollama library e o número de camadas, de KV heads e a dimensão da cabeça no arquivo de configuração oficial de cada modelo, e calcula o cache como 2 × camadas × KV heads × dimensão da cabeça × tamanho do contexto × requisições paralelas × bytes por valor. Em seguida, soma uma reserva para o sistema operacional e outros serviços, mostra o total em GiB e GB, indica o menor tamanho de memória comum que o comporta e informa se ele cabe no plano de VPS que você digitar. O resultado é uma estimativa, não uma medição: ele não inclui os buffers de computação do próprio runtime, e um servidor real deve ser medido antes de você se comprometer com um plano. Os dados dos modelos foram verificados na data exibida abaixo da ferramenta.
Casos de uso
- Escolher o tamanho de memória de um plano de VPS antes de pagar por ele
- Ver o que acontece com a memória ao aumentar o tamanho do contexto ou o número de requisições paralelas
- Comparar um modelo menor com um maior para o mesmo servidor
Como usar
- Escolha um modelo, ou escolha a opção personalizada e digite o tamanho do arquivo, as camadas, as KV heads e a dimensão da cabeça do seu próprio modelo.
- Defina o tamanho do contexto, o número de requisições paralelas, o tipo de KV cache e uma reserva para o sistema operacional e outros serviços.
- Se quiser, digite a memória do plano que você está considerando para ver se a estimativa cabe e com quanta folga.
FAQ
Como a memória é calculada?
A ferramenta soma três partes. Os pesos são o tamanho de download do arquivo do modelo. O KV cache é 2 × camadas × KV heads × dimensão da cabeça × tamanho do contexto × requisições paralelas × bytes por valor, em que um valor ocupa 2 bytes em f16, cerca de 1 byte em q8_0 e cerca de meio byte em q4_0, seguindo as proporções do Ollama FAQ. A terceira parte é uma reserva que você define para o sistema operacional e outros serviços.
De onde vêm os números dos modelos?
Os tamanhos dos arquivos e a quantização são os que a Ollama library mostra para cada tag. O número de camadas, de KV heads e a dimensão da cabeça vêm do config.json oficial de cada modelo no Hugging Face. No caso do Mistral 7B, que não informa a dimensão da cabeça, ela é o tamanho oculto (hidden size) dividido pelo número de cabeças de atenção. A data da verificação é exibida abaixo da ferramenta.
Por que o resultado é apenas uma estimativa?
O runtime também precisa de memória de trabalho para seus buffers de computação, que esta ferramenta não inclui, e o uso real depende do runtime e de suas configurações. Meça o uso de memória de uma execução real antes de escolher um plano e mantenha uma margem.
Qual é a diferença entre GB e GiB?
Um GB equivale a 1.000.000.000 de bytes e um GiB equivale a 1.073.741.824 bytes. A ferramenta mostra os dois para o total e compara a memória do plano que você digitar com o total em GiB, para não superestimar o que cabe. O "GB" de um provedor pode significar qualquer um dos dois, então confira como o seu provedor conta.
Posso usar um modelo que não está na lista?
Sim. Escolha a opção personalizada e digite o tamanho do arquivo, as camadas, as KV heads e a dimensão da cabeça, que constam no config.json do modelo. A fórmula supõe que todas as camadas têm o mesmo formato de KV, portanto não serve para modelos que misturam tipos de camada, usam janelas deslizantes ou usam mistura de especialistas.
O que o tipo de KV cache muda?
Muda apenas o tamanho do cache, não os pesos. Segundo o Ollama FAQ, q8_0 usa aproximadamente metade da memória do f16 e q4_0 aproximadamente um quarto. Esta ferramenta não mede como um cache menor afeta as respostas.
Minha entrada é enviada para um servidor?
Não. O cálculo é executado no seu navegador.