~/ / Articles sur l'IA / LLM locaux sur un VPS
Des articles sur l'exécution de modèles de langage sur votre propre serveur : la mémoire nécessaire, l'installation, les réglages et ce que chaque modèle sait faire. Rédigés uniquement à partir de la documentation officielle d'Ollama et des concepteurs des modèles.
Lancez Open WebUI avec Docker et connectez-le à Ollama sur votre propre serveur : les commandes, le premier compte, les deux types de connexion et la mise à jour.
Publié: Outils utilisables: Local LLM Memory Estimator
Contraindre la sortie d'un modèle local avec un JSON Schema et appeler Ollama depuis des clients de style OpenAI : ce que disent les documents officiels, et ce qui n'est pas pris en charge.
Publié: Outils utilisables: JSON Schema Validator, LLM JSON Repair
Tools, thinking, vision, embeddings : ce que signifient les libellés de la bibliothèque Ollama, quels modèles les portent et quelle est la taille des téléchargements.
Publié: Outils utilisables: Local LLM Memory Estimator
Installer Ollama sur un VPS Linux et le garder en marche : la commande d'installation, le service systemd, les variables d'environnement, le stockage des modèles et les mises à jour, d'après la documentation officielle.
Publié: Outils utilisables: Local LLM Memory Estimator
Fichier du modèle plus cache KV : ce que disent la bibliothèque Ollama, la FAQ d'Ollama et les configurations officielles des modèles sur la mémoire dont un LLM local a besoin sur un VPS.
Publié: Outils utilisables: Local LLM Memory Estimator
Vous pensez héberger Ollama ou Dify sur un VPS ? Ce que disent les documentations officielles sur la mémoire, l'inférence sur CPU seul et les ports à garder fermés.
Publié: Outils utilisables: LLM API Cost Calculator