toolkitbox

~/ / Artigos sobre IA / LLMs locais em uma VPS / IA no seu próprio VPS: quanta memória planejar e o que não expor

IA no seu próprio VPS: quanta memória planejar e o que não expor

Rodar um modelo de linguagem ou um construtor de apps de IA em um VPS alugado é atraente: uma mensalidade fixa e seus dados em um servidor que você controla. Mas o plano que você escolhe decide se aquilo vai rodar ou não, e uma instalação padrão pode deixar um serviço acessível pela internet. Este artigo reúne o que a documentação oficial do Ollama e do Dify diz sobre memória, operação só com CPU e exposição de rede, para que você escolha um plano antes de pagar por ele.

Publicado: · 5 min de leitura · Conferido na documentação oficial em 2026-10-26. Versões e valores padrão mudam, por isso confirme nos documentos atuais antes de instalar.

O que precisa caber na memória

O tamanho de download de um modelo é a menor quantidade de memória de que ele precisa, não a quantidade que você deve planejar. A biblioteca do Ollama lista o tamanho de download de cada tag. Por exemplo, o Llama 3.2 aparece com 1.3 GB na tag 1b e 2.0 GB na tag 3b, ambas com uma janela de contexto de 128K.

Além do modelo, a memória cresce com o contexto. O FAQ do Ollama afirma que a RAM necessária escala com OLLAMA_NUM_PARALLEL multiplicado por OLLAMA_CONTEXT_LENGTH e dá um exemplo: um contexto de 2K com 4 requisições paralelas vira um contexto de 8K e precisa de memória adicional. O FAQ também diz que quantizar o cache de chave-valor com q8_0 usa aproximadamente metade da memória de f16, e q4_0 cerca de um quarto.

Tag do modeloTamanho do downloadJanela de contexto
llama3.2:1b1.3 GB128K
llama3.2:3b2.0 GB128K
  • O FAQ do Ollama indica 4096 tokens como janela de contexto padrão, e a página sobre o comprimento de contexto diz que o padrão depende da VRAM da sua GPU (4k abaixo de 24 GiB). Confira o valor que a sua instalação realmente usa.
  • O README do Ollama que consultamos não lista um requisito de RAM por tamanho de modelo. Meça em vez de adivinhar: carregue o modelo com o comprimento de contexto que pretende usar, envie um prompt e observe o uso de memória do servidor.
  • Deixe espaço para o sistema operacional e para todos os outros serviços no mesmo servidor.

Os tamanhos de download foram lidos na página da biblioteca do Ollama na data indicada acima. São tamanhos de arquivo, não uso de memória medido.

Sem GPU: o que significa rodar só com CPU

A maioria dos planos de VPS não tem GPU, então o modelo roda na CPU e na memória do sistema. O FAQ do Ollama descreve esse caso: ollama ps mostra 100% CPU na coluna PROCESSOR quando um modelo foi carregado inteiramente na memória do sistema, e o padrão de OLLAMA_MAX_LOADED_MODELS é 3 para inferência em CPU.

Os documentos não trazem números de velocidade para a operação só com CPU, e nós não medimos nenhum. Comece pelo menor modelo que dê conta da sua tarefa e teste-o por alguns dias antes de assumir um contrato mais longo.

Rodando o Dify em um VPS

O Dify pode ser hospedado por você com Docker Compose. A documentação dele lista requisitos mínimos de sistema, que são mínimos e não recomendações:

  • CPU: 2 núcleos ou mais
  • RAM: 4 GiB ou mais
  • Linux: Docker 19.03 ou posterior e Docker Compose 2.24.0 ou posterior
EtapaO que fazer
1Clone o repositório do Dify e vá para o diretório dify/docker
2Copie .env.example para .env
3Gere um token com openssl rand -base64 32 e defina-o como DIFY_AGENT_LOCAL_SANDBOX_AUTH_TOKEN no .env
4Execute docker compose up -d
5Verifique docker compose ps: os contêineres devem aparecer como Up ou healthy
6Abra /install no seu servidor para criar a conta de administrador e depois faça login

A página do Dify que consultamos não menciona o Ollama nem modelos locais. Se um mesmo servidor rodar o Dify e um modelo local, planeje a memória dos dois (leitura nossa dos dois documentos, não um número de nenhum deles).

O que não expor à internet

O FAQ do Ollama diz que o Ollama escuta por padrão em 127.0.0.1 na porta 11434 e que o endereço de escuta se altera com a variável de ambiente OLLAMA_HOST. A página do FAQ que consultamos não descreve nenhuma autenticação para o servidor do Ollama. O que vem a seguir é recomendação nossa, não uma afirmação dos documentos:

  • Deixe o Ollama no endereço padrão. Se outra máquina precisar dele, acesse-o por um túnel SSH em vez de alterar o endereço de escuta.
  • Se você o associar a um endereço de rede, restrinja a porta no firewall aos endereços que você usa e nunca a abra para todos.
  • O Dify é servido no endereço do servidor, e você cria a conta de administrador em /install. Faça isso logo depois que os contêineres iniciarem e coloque HTTPS e uma regra de firewall na frente dele antes de compartilhar o endereço.
  • Guarde as chaves de API dos provedores de modelos no arquivo .env ou em um cofre de segredos, e fora de tudo o que você faz commit.

Hospedar por conta própria ou usar uma API?

Um VPS custa o mesmo todo mês, quer você o use ou não, enquanto uma API cobra pelos tokens que você envia e recebe. Se o seu volume é baixo, uma API pode sair mais barata do que manter um servidor ligado. Se é alto e um modelo pequeno basta, o servidor pode compensar. Informe o seu próprio volume e compare.

Experimente: LLM API Cost Calculator

Modelo A
Modelo B (opcional, para comparar)
Uso

Custo estimado

Informe os preços e as contagens de tokens para ver o custo.

Páginas oficiais de preços

Isto apenas multiplica os números que você informa. Não conhece os preços do fornecedor, nem descontos, cache, tarifas em lote, preços escalonados ou impostos.

Para saber os tokens de entrada de um prompt, use o Token Counter.

Fontes

Leia a seguir