~/tools / Local LLM Memory Estimator
Local LLM Memory Estimator — Estimez la mémoire d'un LLM local : fichier du modèle plus KV cache
Estimez la mémoire dont a besoin un LLM local sur un VPS ou sur votre propre machine : le fichier du modèle plus le KV cache pour votre longueur de contexte et votre nombre de requêtes parallèles. Les préréglages utilisent les tailles de téléchargement officielles et les configurations de modèle officielles de Qwen3 et de Mistral 7B. Rien ne quitte votre navigateur.
Estimation
- Poids du modèle
- 4.84 GiB
- KV cache
- 0.56 GiB
- Réserve
- 1.00 GiB
- Total
- 6.41 GiB (6.88 GB)
- Plus petite taille de mémoire courante qui le contient
- 8 GiB
Il s'agit d'une estimation. Elle n'inclut pas les tampons de calcul du runtime et suppose que chaque couche a la même forme de KV. Mesurez une vraie exécution avant de choisir une offre.
Données du modèle vérifiées le 2026-10-26.
Sources : Ollama library · Configuration du modèle (config.json) · Ollama FAQ
Tout s'exécute dans votre navigateur. Rien n'est envoyé.
Un modèle de langage local a besoin de mémoire pour deux choses. La première est le modèle lui-même, dont la taille est à peu près celle de son fichier de téléchargement. La seconde est le KV cache, qui grandit avec la longueur du contexte et avec le nombre de requêtes que le serveur traite en même temps. La FAQ d'Ollama indique que la RAM nécessaire évolue selon OLLAMA_NUM_PARALLEL multiplié par OLLAMA_CONTEXT_LENGTH, et que quantifier le cache en q8_0 utilise environ la moitié de la mémoire de f16, et q4_0 environ un quart. Cet outil additionne les deux parties pour vous. Il reprend la taille du fichier dans l'Ollama library, ainsi que le nombre de couches, de KV heads et la dimension des têtes dans le fichier de configuration officiel de chaque modèle, et il calcule le cache ainsi : 2 × couches × KV heads × dimension des têtes × longueur du contexte × requêtes parallèles × octets par valeur. Il ajoute ensuite une réserve pour le système d'exploitation et les autres services, affiche le total en GiB et en GB, indique la plus petite taille de mémoire courante qui le contient, et vous dit s'il tient dans l'offre VPS que vous saisissez. Le résultat est une estimation, pas une mesure : il n'inclut pas les tampons de calcul propres au runtime, et il faut mesurer un vrai serveur avant de vous engager sur une offre. Les données des modèles ont été vérifiées à la date indiquée sous l'outil.
Cas d'usage
- Choisir la taille de mémoire d'une offre VPS avant de la payer
- Voir l'effet d'une longueur de contexte plus grande ou d'un plus grand nombre de requêtes parallèles sur la mémoire
- Comparer un modèle plus petit et un modèle plus grand pour un même serveur
Utilisation
- Choisissez un modèle, ou choisissez l'entrée personnalisée et saisissez la taille du fichier, le nombre de couches, de KV heads et la dimension des têtes de votre propre modèle.
- Réglez la longueur du contexte, le nombre de requêtes parallèles, le type de KV cache et une réserve pour le système d'exploitation et les autres services.
- Saisissez éventuellement la mémoire de l'offre que vous envisagez pour voir si l'estimation y tient, et avec quelle marge.
FAQ
Comment la mémoire est-elle calculée ?
L'outil additionne trois parties. Les poids correspondent à la taille de téléchargement du fichier du modèle. Le KV cache vaut 2 × couches × KV heads × dimension des têtes × longueur du contexte × requêtes parallèles × octets par valeur, où une valeur occupe 2 octets en f16, environ 1 octet en q8_0 et environ un demi-octet en q4_0, selon les rapports donnés dans la FAQ d'Ollama. La troisième partie est une réserve que vous fixez pour le système d'exploitation et les autres services.
D'où viennent les chiffres des modèles ?
Les tailles de fichier et la quantification sont celles que l'Ollama library affiche pour chaque tag. Le nombre de couches, de KV heads et la dimension des têtes proviennent du config.json officiel de chaque modèle sur Hugging Face. Pour Mistral 7B, qui n'indique pas de dimension des têtes, on prend la taille cachée divisée par le nombre de têtes d'attention. La date de la vérification est affichée sous l'outil.
Pourquoi le résultat n'est-il qu'une estimation ?
Le runtime a aussi besoin de mémoire de travail pour ses tampons de calcul, que cet outil n'inclut pas, et l'utilisation réelle dépend du runtime et de ses réglages. Mesurez l'utilisation de la mémoire lors d'une vraie exécution avant de choisir une offre, et gardez une certaine marge.
Quelle est la différence entre GB et GiB ?
Un GB vaut 1,000,000,000 octets et un GiB vaut 1,073,741,824 octets. L'outil affiche les deux pour le total et compare la mémoire de l'offre que vous saisissez au total en GiB, afin de ne pas surestimer ce qui tient. Le « GB » d'un fournisseur peut désigner l'un ou l'autre : vérifiez comment le vôtre compte.
Puis-je utiliser un modèle qui n'est pas dans la liste ?
Oui. Choisissez l'entrée personnalisée et saisissez la taille du fichier, le nombre de couches, de KV heads et la dimension des têtes, qui figurent dans le config.json du modèle. La formule suppose que chaque couche a la même forme de KV ; elle ne convient donc pas aux modèles qui mélangent plusieurs types de couches, utilisent des fenêtres glissantes ou reposent sur un mélange d'experts.
Que change le type de KV cache ?
Il ne change que la taille du cache, pas celle des poids. D'après la FAQ d'Ollama, q8_0 utilise environ la moitié de la mémoire de f16 et q4_0 environ un quart. Cet outil ne mesure pas l'effet d'un cache plus petit sur les réponses.
Ma saisie est-elle envoyée à un serveur ?
Non. Le calcul s'exécute dans votre navigateur.