~/ / Artigos sobre IA / LLMs locais em uma VPS
Artigos sobre como executar modelos de linguagem no seu próprio servidor: a memória necessária, a instalação, as configurações e o que cada modelo pode fazer. Escritos apenas com base na documentação oficial do Ollama e dos criadores dos modelos.
Rode o Open WebUI com Docker e conecte-o ao Ollama no seu próprio servidor: os comandos, a primeira conta, os dois tipos de conexão e como atualizar.
Publicado: Ferramentas que você pode usar: Local LLM Memory Estimator
Restrinja a saída de um modelo local com um JSON Schema e chame o Ollama a partir de clientes no estilo OpenAI: o que a documentação oficial diz e o que não é compatível.
Publicado: Ferramentas que você pode usar: JSON Schema Validator, LLM JSON Repair
Tools, thinking, vision, embeddings: o que significam os rótulos da biblioteca do Ollama, quais modelos os têm e qual o tamanho dos downloads.
Publicado: Ferramentas que você pode usar: Local LLM Memory Estimator
Instale o Ollama em uma VPS Linux e mantenha-o em execução: o comando de instalação, o serviço systemd, as variáveis de ambiente, o armazenamento dos modelos e as atualizações, conforme a documentação oficial.
Publicado: Ferramentas que você pode usar: Local LLM Memory Estimator
Arquivo do modelo mais cache KV: o que a biblioteca do Ollama, o FAQ do Ollama e as configurações oficiais dos modelos dizem sobre a memória de que um LLM local precisa em uma VPS.
Publicado: Ferramentas que você pode usar: Local LLM Memory Estimator
Vai rodar Ollama ou Dify em um VPS? O que a documentação oficial diz sobre memória, inferência só com CPU e as portas que devem ficar fechadas.
Publicado: Ferramentas que você pode usar: LLM API Cost Calculator