~/ / Articles sur l'IA / LLM locaux sur un VPS / Faire tourner une IA sur votre propre VPS : quelle mémoire prévoir, et ce qu'il ne faut pas exposer
Faire tourner une IA sur votre propre VPS : quelle mémoire prévoir, et ce qu'il ne faut pas exposer
Faire tourner un modèle de langage ou un outil de création d'applications d'IA sur un VPS loué est séduisant : un tarif mensuel fixe et des données qui restent sur un serveur que vous maîtrisez. Mais l'offre que vous choisissez détermine si le service fonctionne tout court, et une installation par défaut peut laisser un service accessible depuis internet. Cet article rassemble ce que disent les documentations officielles d'Ollama et de Dify sur la mémoire, le fonctionnement sur CPU seul et l'exposition réseau, afin que vous puissiez choisir une offre avant de payer.
Publié: · 5 min de lecture · Vérifié dans la documentation officielle le 2026-10-26. Les versions et les valeurs par défaut changent : confirmez dans les documents actuels avant d'installer.
Ce qui doit tenir en mémoire
La taille de téléchargement d'un modèle est la quantité minimale de mémoire dont il a besoin, pas celle qu'il faut prévoir. La bibliothèque d'Ollama indique la taille de téléchargement de chaque tag. Par exemple, Llama 3.2 est indiqué à 1.3 GB pour le tag 1b et à 2.0 GB pour le tag 3b, tous deux avec une fenêtre de contexte de 128K.
En plus du modèle, la mémoire augmente avec le contexte. La FAQ d'Ollama indique que la RAM nécessaire évolue selon OLLAMA_NUM_PARALLEL multiplié par OLLAMA_CONTEXT_LENGTH, et donne un exemple : un contexte de 2K avec 4 requêtes parallèles devient un contexte de 8K et demande de la mémoire supplémentaire. La FAQ précise aussi que la quantification du cache clé-valeur avec q8_0 utilise environ la moitié de la mémoire de f16, et q4_0 environ un quart.
| Tag du modèle | Taille de téléchargement | Fenêtre de contexte |
|---|---|---|
| llama3.2:1b | 1.3 GB | 128K |
| llama3.2:3b | 2.0 GB | 128K |
- La FAQ d'Ollama indique 4096 tokens comme fenêtre de contexte par défaut, et la page sur la longueur du contexte précise que la valeur par défaut dépend de la VRAM de votre GPU (4k en dessous de 24 GiB). Vérifiez la valeur réellement utilisée par votre installation.
- Le README d'Ollama que nous avons consulté n'indique pas de RAM requise par taille de modèle. Mesurez plutôt que de deviner : chargez le modèle avec la longueur de contexte que vous comptez utiliser, envoyez une requête et observez l'utilisation de la mémoire du serveur.
- Gardez de la marge pour le système d'exploitation et tous les autres services du même serveur.
Les tailles de téléchargement ont été relevées sur la page de la bibliothèque d'Ollama à la date indiquée plus haut. Ce sont des tailles de fichiers, pas une utilisation de mémoire mesurée.
Sans GPU : ce que signifie « CPU seul »
La plupart des offres de VPS n'ont pas de GPU : un modèle tourne donc sur le CPU et dans la mémoire système. La FAQ d'Ollama décrit ce cas : ollama ps affiche 100% CPU dans la colonne PROCESSOR lorsqu'un modèle a été chargé entièrement en mémoire système, et la valeur par défaut de OLLAMA_MAX_LOADED_MODELS est 3 pour l'inférence sur CPU.
Les documents ne donnent aucun chiffre de vitesse pour le fonctionnement sur CPU seul, et nous n'en avons mesuré aucun. Commencez par le plus petit modèle qui convient à votre tâche et testez-le pendant quelques jours avant de vous engager sur un contrat plus long.
Faire tourner Dify sur un VPS
Dify peut être auto-hébergé avec Docker Compose. Sa documentation indique la configuration système minimale, qui est un minimum et non une recommandation :
- CPU : 2 cœurs ou plus
- RAM : 4 GiB ou plus
- Linux : Docker 19.03 ou ultérieur et Docker Compose 2.24.0 ou ultérieur
| Étape | Ce que vous faites |
|---|---|
| 1 | Cloner le dépôt de Dify et se placer dans le répertoire dify/docker |
| 2 | Copier .env.example vers .env |
| 3 | Générer un jeton avec openssl rand -base64 32 et le définir comme DIFY_AGENT_LOCAL_SANDBOX_AUTH_TOKEN dans .env |
| 4 | Exécuter docker compose up -d |
| 5 | Vérifier docker compose ps : les conteneurs doivent afficher Up ou healthy |
| 6 | Ouvrir /install sur votre serveur pour créer le compte administrateur, puis se connecter |
La page de Dify que nous avons consultée ne mentionne ni Ollama ni les modèles locaux. Si un même serveur fait tourner à la fois Dify et un modèle local, prévoyez la mémoire des deux (notre lecture des deux documents, et non un chiffre issu de l'un ou de l'autre).
Ce qu'il ne faut pas exposer sur internet
La FAQ d'Ollama indique qu'Ollama écoute par défaut sur 127.0.0.1, port 11434, et que l'on change l'adresse d'écoute avec la variable d'environnement OLLAMA_HOST. La page de la FAQ que nous avons consultée ne décrit aucune authentification pour le serveur Ollama. Ce qui suit est notre recommandation, et non une déclaration des documents :
- Laissez Ollama sur son adresse par défaut. Si une autre machine en a besoin, passez par un tunnel SSH plutôt que de changer l'adresse d'écoute.
- Si vous le faites tout de même écouter sur une adresse réseau, limitez le port dans le pare-feu aux adresses que vous utilisez, et ne l'ouvrez jamais à tout le monde.
- Dify est servi sur l'adresse du serveur, et vous créez le compte administrateur depuis /install. Faites-le immédiatement après le démarrage des conteneurs, et placez HTTPS et une règle de pare-feu devant avant de partager l'adresse.
- Conservez les clés API des fournisseurs de modèles dans le fichier .env ou dans un gestionnaire de secrets, et hors de tout ce que vous versez dans le dépôt.
Auto-hébergement ou API ?
Un VPS coûte le même prix chaque mois, que vous l'utilisiez ou non, tandis qu'une API facture les tokens que vous envoyez et recevez. Si votre volume est faible, une API peut revenir moins cher que de garder un serveur allumé. S'il est élevé et qu'un petit modèle suffit, un serveur peut l'emporter. Saisissez votre propre volume et comparez.
Essayer: LLM API Cost Calculator
Coût estimé
Saisissez les prix et les nombres de tokens pour voir le coût.
Pages de tarifs officielles
Cela ne fait que multiplier les nombres que vous saisissez. Cela ne connaît ni les prix de l'éditeur, ni les remises, le cache, les tarifs par lot, les tarifs par paliers ou les taxes.
Pour connaître les tokens d'entrée d'un prompt, utilisez le Token Counter.
Sources
À lire ensuite
- Appeler un modèle local depuis votre code : sorties structurées et API compatible OpenAI dans OllamaContraindre la sortie d'un modèle local avec un JSON Schema et appeler Ollama depuis des clients de style OpenAI : ce que disent les documents officiels, et ce qui n'est pas pris en charge.
- Que peut faire un modèle local ? Tools, thinking, vision et embeddings dans Ollama, et ce qui tient sur un VPSTools, thinking, vision, embeddings : ce que signifient les libellés de la bibliothèque Ollama, quels modèles les portent et quelle est la taille des téléchargements.
- Installer Ollama sur un VPS et le garder en marche : installation, service systemd, réglages et mises à jourInstaller Ollama sur un VPS Linux et le garder en marche : la commande d'installation, le service systemd, les variables d'environnement, le stockage des modèles et les mises à jour, d'après la documentation officielle.
- De quelle mémoire un LLM local a-t-il besoin sur un VPS ? Fichier du modèle plus cache KVFichier du modèle plus cache KV : ce que disent la bibliothèque Ollama, la FAQ d'Ollama et les configurations officielles des modèles sur la mémoire dont un LLM local a besoin sur un VPS.