~/ / Articles sur l'IA / LLM locaux sur un VPS / Que peut faire un modèle local ? Tools, thinking, vision et embeddings dans Ollama, et ce qui tient sur un VPS
Que peut faire un modèle local ? Tools, thinking, vision et embeddings dans Ollama, et ce qui tient sur un VPS
Un modèle local, ce n'est pas seulement une zone de discussion. La bibliothèque Ollama attribue aux modèles des libellés qui indiquent ce qu'ils savent faire, et la documentation décrit chacun d'eux : appeler des outils, montrer leur raisonnement, lire des images et transformer du texte en vecteurs pour la recherche. Cet article explique ce que signifie chaque libellé, présente dix modèles avec leurs libellés et leurs tailles de téléchargement, et montre comment faire correspondre ce que vous voulez faire à la mémoire de votre serveur.
Publié: · 5 min de lecture · Libellés, tailles et fenêtres de contexte vérifiés dans la bibliothèque et la documentation d'Ollama le 2026-10-26. La bibliothèque change souvent : consultez donc la page du tag que vous comptez utiliser.
Les quatre libellés
La bibliothèque Ollama marque chaque modèle avec les capacités qu'il prend en charge. Quatre d'entre elles comptent pour ce que vous construisez sur un serveur. La documentation les décrit ainsi.
| Libellé | Ce que dit la documentation | Comment l'utiliser |
|---|---|---|
| tools | L'appel d'outils, aussi appelé appel de fonctions, permet à un modèle d'invoquer des outils et d'intégrer leurs résultats dans ses réponses. Il prend en charge l'appel d'un seul outil, les appels d'outils en parallèle et une boucle d'agent sur plusieurs tours. | Vous listez les outils disponibles dans le champ tools d'une requête envoyée à /api/chat. Lorsque le modèle appelle un outil, vous l'exécutez et renvoyez le résultat sous forme de message avec le rôle tool. |
| thinking | Les modèles capables de thinking produisent leur raisonnement séparément de leur réponse finale, ce qui permet de vérifier les étapes du modèle ou de masquer la trace. | Vous définissez le paramètre think dans une requête. Le raisonnement revient dans message.thinking et la réponse dans message.content. |
| vision | Les modèles de vision acceptent des images en plus du texte, ce qui leur permet de décrire, de classer et de répondre à des questions sur ce qu'ils voient. | Vous passez un tableau images dans le message. L'API REST attend des données d'image encodées en base64. |
| embedding | Les embeddings sont des vecteurs numériques que vous pouvez stocker dans une base de données vectorielle, interroger par similarité cosinus ou utiliser dans des pipelines RAG. | Vous appelez /api/embed. La documentation recommande la similarité cosinus pour la plupart des recherches sémantiques, ainsi que le même modèle d'embedding pour l'indexation et pour l'interrogation. |
Dix modèles et leurs libellés
Ce tableau liste les libellés que la bibliothèque Ollama affiche pour chaque famille de modèles, avec un tag, la taille indiquée sur la ligne de ce tag dans la liste des tags, et sa fenêtre de contexte. Cette taille est une taille de téléchargement : c'est donc la mémoire minimale dont le modèle a besoin, pas celle qu'il faut prévoir.
| Tag | Labels | Taille de téléchargement | Fenêtre de contexte | Ce que dit la bibliothèque |
|---|---|---|---|---|
| qwen3:4b | tools, thinking | 2.5 GB | 256K | Qwen3 est la dernière génération de grands modèles de langage de la série Qwen |
| llama3.2:3b | tools | 2.0 GB | 128K | Llama 3.2 de Meta passe au petit format avec des modèles de 1B et 3B |
| gemma3:4b | vision | 3.4 GB | 128K | Le modèle le plus performant capable de tourner sur un seul GPU |
| qwen3-vl:4b | vision, tools, thinking | 3.3 GB | 256K | Le modèle vision-langage le plus puissant de la famille Qwen à ce jour |
| deepseek-r1:7b | tools, thinking | 4.7 GB | 128K | Une famille de modèles de raisonnement ouverts |
| qwen2.5-coder:7b | tools | 4.7 GB | 32K | La dernière série de modèles Qwen spécialisés dans le code |
| mistral:7b | tools | 4.4 GB | 32K | Le modèle 7B publié par Mistral AI, mis à jour en version 0.3 |
| gpt-oss:20b | tools, thinking | 14 GB | 128K | Les modèles à poids ouverts d'OpenAI pour le raisonnement et les tâches d'agent |
| nomic-embed-text | embedding | 274 MB | 2K | Un modèle d'embedding ouvert avec une grande fenêtre de contexte en tokens |
| embeddinggemma | embedding | 622 MB | 2K | Un modèle d'embedding de 300M de paramètres signé Google |
Les libellés appartiennent à la famille du modèle, et une famille existe en plusieurs tailles. Ouvrez la page du tag exact que vous comptez utiliser pour voir ses types d'entrée et sa taille avant de le télécharger.
Faire correspondre une capacité à une tâche
La documentation nomme les usages de chaque capacité. Voici notre lecture de ce qu'ils impliquent pour un serveur que vous gérez vous-même, et non une affirmation sur la qualité :
- Tools : un assistant capable de chercher une information ou de déclencher une action dans votre propre système, car le modèle demande un outil et c'est votre code qui l'exécute. La définition d'outil que vous envoyez doit respecter la forme attendue par l'API, ce que le Tool Definition Checker peut vérifier.
- Thinking : des réponses pour lesquelles vous voulez voir ou journaliser le raisonnement du modèle séparément, par exemple pendant que vous testez un prompt. Le raisonnement arrive avant la réponse, de sorte qu'une réponse consomme plus de tokens.
- Vision : décrire ou classer une image, ou répondre à une question à son sujet, avec un modèle qui accepte des images en plus du texte.
- Embedding : recherche par le sens et retrieval pour le RAG. Les deux modèles d'embedding du tableau sont de petits téléchargements, 274 MB et 622 MB, bien moins qu'un modèle de discussion.
Ce qui tient sur un VPS
C'est la mémoire qui décide de ce que vous pouvez faire tourner. Les tailles de téléchargement ci-dessus sont un plancher, et la longueur du contexte ajoute un cache KV par-dessus. Pour les modèles Qwen3 et Mistral 7B, le calculateur ci-dessous utilise les valeurs de configuration officielles : vous pouvez ainsi voir le total pour votre longueur de contexte et pour l'offre que vous envisagez.
Pour les autres modèles du tableau, le calculateur n'a pas de préréglage, car il lui faut le nombre de couches, de têtes KV et la dimension de tête issus du fichier de configuration de chaque modèle. Vous pouvez les saisir vous-même comme modèle personnalisé.
Essayer: Local LLM Memory Estimator
Estimation
- Poids du modèle
- 4.84 GiB
- KV cache
- 0.56 GiB
- Réserve
- 1.00 GiB
- Total
- 6.41 GiB (6.88 GB)
- Plus petite taille de mémoire courante qui le contient
- 8 GiB
Il s'agit d'une estimation. Elle n'inclut pas les tampons de calcul du runtime et suppose que chaque couche a la même forme de KV. Mesurez une vraie exécution avant de choisir une offre.
Données du modèle vérifiées le 2026-10-26.
Sources : Ollama library · Configuration du modèle (config.json) · Ollama FAQ
Tout s'exécute dans votre navigateur. Rien n'est envoyé.
Choisir
- Partez de la capacité dont vous avez besoin, puis choisissez le plus petit modèle qui porte son libellé, et mesurez la mémoire et la vitesse sur un serveur de test avant de vous engager sur une offre.
- Comparez la fenêtre de contexte du tableau à votre usage : les deux modèles d'embedding indiquent 2K, et mistral:7b et qwen2.5-coder:7b indiquent 32K.
- Plusieurs capacités peuvent se trouver sur un même modèle. Qwen3 porte tools et thinking, et Qwen3-VL ajoute vision.
- La bibliothèque ajoute souvent de nouveaux modèles. Considérez ce tableau comme un instantané à la date indiquée plus haut.
Sources
À lire ensuite
- Appeler un modèle local depuis votre code : sorties structurées et API compatible OpenAI dans OllamaContraindre la sortie d'un modèle local avec un JSON Schema et appeler Ollama depuis des clients de style OpenAI : ce que disent les documents officiels, et ce qui n'est pas pris en charge.
- Installer Ollama sur un VPS et le garder en marche : installation, service systemd, réglages et mises à jourInstaller Ollama sur un VPS Linux et le garder en marche : la commande d'installation, le service systemd, les variables d'environnement, le stockage des modèles et les mises à jour, d'après la documentation officielle.
- De quelle mémoire un LLM local a-t-il besoin sur un VPS ? Fichier du modèle plus cache KVFichier du modèle plus cache KV : ce que disent la bibliothèque Ollama, la FAQ d'Ollama et les configurations officielles des modèles sur la mémoire dont un LLM local a besoin sur un VPS.
- Faire tourner une IA sur votre propre VPS : quelle mémoire prévoir, et ce qu'il ne faut pas exposerVous pensez héberger Ollama ou Dify sur un VPS ? Ce que disent les documentations officielles sur la mémoire, l'inférence sur CPU seul et les ports à garder fermés.