toolkitbox

~/ / Artigos sobre IA / LLMs locais em uma VPS / Acompanhe a memória do Ollama em uma VPS pequena

Acompanhe a memória do Ollama em uma VPS pequena

Em um servidor pequeno, a memória é o limite, e o Ollama mantém um modelo na memória depois de responder. Este artigo mostra como ver o que está carregado, por quanto tempo fica, quantos modelos e quantas requisições o Ollama atende ao mesmo tempo e quais configurações mudam o uso de memória. Todos os valores padrão abaixo são citados do FAQ oficial.

Publicado: · 3 min de leitura · Fatos conferidos na documentação oficial do Ollama em 2026-10-27. Os valores padrão podem mudar entre versões, então confira o FAQ da versão que você usa.

Veja o que está carregado

O FAQ diz para usar ollama ps para ver quais modelos estão carregados na memória no momento. A coluna PROCESSOR indica onde cada modelo está.

PROCESSOR mostraO que o FAQ diz que significa
100% GPUO modelo foi carregado inteiramente na GPU.
100% CPUO modelo foi carregado inteiramente na memória do sistema.
48%/52% CPU/GPUO modelo foi carregado parcialmente na GPU e parcialmente na memória do sistema.

Em uma VPS sem GPU, 100% CPU é a leitura esperada: o modelo fica na memória do servidor.

Por quanto tempo um modelo fica na memória

Por padrão, segundo o FAQ, os modelos ficam na memória por 5 minutos antes de serem descarregados. Você pode mudar isso para o servidor inteiro ou para uma única requisição.

O que você querComo, segundo o FAQ
Descarregar um modelo agoraollama stop llama3.2
Manter um modelo carregadoEnvie keep_alive com um número negativo, por exemplo -1, em uma requisição para /api/generate ou /api/chat.
Descarregar logo após a respostaEnvie keep_alive definido como 0.
Outro tempokeep_alive também aceita uma string de duração, como 10m ou 24h, ou um número de segundos, como 3600.
Definir para o servidor inteiroDefina a variável de ambiente OLLAMA_KEEP_ALIVE ao iniciar o servidor. Ela aceita os mesmos tipos de valores. Um keep_alive em uma requisição tem precedência sobre ela.

Nossa leitura, não uma afirmação dos documentos: quando o mesmo servidor também executa outras coisas, como o Dify ou uma tela de chat, um modelo que permanece carregado tira a memória delas. Um tempo menor libera a memória mais cedo, e a próxima requisição precisa carregar o modelo de novo. Não medimos quanto tempo isso leva.

Vários modelos, várias requisições

O FAQ descreve três limites e uma regra. Se um novo modelo não cabe na memória disponível enquanto outros modelos estão carregados, as novas requisições ficam na fila até que ele possa ser carregado, e os modelos ociosos são descarregados para abrir espaço.

O estimador abaixo tem um campo para requisições paralelas, para que você veja o que um valor mais alto faz com o total.

ConfiguraçãoO que o FAQ diz
OLLAMA_MAX_LOADED_MODELSO número máximo de modelos que podem ser carregados ao mesmo tempo, desde que caibam na memória disponível. O padrão é 3 vezes o número de GPUs, ou 3 para inferência em CPU.
OLLAMA_NUM_PARALLELO número máximo de requisições paralelas que cada modelo processa ao mesmo tempo. O padrão é 1. A RAM necessária cresce com OLLAMA_NUM_PARALLEL vezes OLLAMA_CONTEXT_LENGTH.
OLLAMA_MAX_QUEUEO número máximo de requisições que o Ollama enfileira quando está ocupado antes de rejeitar as demais. O padrão é 512. As requisições rejeitadas recebem um erro 503.

Experimente: Local LLM Memory Estimator

Modelo

Tag do Ollama qwen3:8b, quantização Q4_K_M, tamanho de download 5.2 GB.

Estimativa

Pesos do modelo
4.84 GiB
KV cache
0.56 GiB
Reserva
1.00 GiB
Total
6.41 GiB (6.88 GB)
Menor tamanho de memória comum que o comporta
8 GiB

Esta é uma estimativa. Ela não inclui os buffers de computação do runtime e supõe que todas as camadas têm o mesmo formato de KV. Meça uma execução real antes de escolher um plano.

Dados do modelo verificados em 2026-10-26.

Fontes: Ollama library · Configuração do modelo (config.json) · Ollama FAQ

Tudo é executado no seu navegador. Nada é enviado.

Configurações que mudam o uso de memória

ConfiguraçãoO que o FAQ diz
OLLAMA_CONTEXT_LENGTHPor padrão, o Ollama usa uma janela de contexto de 4096 tokens. A variável de ambiente a sobrescreve, e num_ctx pode ser definido por sessão ou pela API.
OLLAMA_KV_CACHE_TYPEO tipo de quantização do cache K/V. O padrão é f16.
OLLAMA_FLASH_ATTENTIONDefina como 1 ao iniciar o servidor para forçar a ativação do Flash Attention. O FAQ diz que o Ollama o ativa automaticamente quando o backend e os dispositivos o suportam.

As variáveis de ambiente do servidor vão em um override do systemd. O artigo sobre como instalar o Ollama em uma VPS mostra os passos. Não medimos quanta memória cada configuração economiza no seu servidor, então confira com ollama ps depois de uma mudança.

Fontes

Leia a seguir