~/ / Artículos de IA / LLM locales en un VPS / ¿Qué puede hacer un modelo local? Tools, thinking, vision y embeddings en Ollama, y qué cabe en un VPS
¿Qué puede hacer un modelo local? Tools, thinking, vision y embeddings en Ollama, y qué cabe en un VPS
Un modelo local es más que un cuadro de chat. La biblioteca de Ollama etiqueta los modelos con lo que pueden hacer, y la documentación describe cada una de esas capacidades: llamar a herramientas, mostrar su razonamiento, leer imágenes y convertir texto en vectores para la búsqueda. Este artículo explica qué significa cada etiqueta, enumera diez modelos con sus etiquetas y tamaños de descarga, y muestra cómo ajustar lo que quieres hacer a la memoria de tu servidor.
Publicado: · 5 min de lectura · Etiquetas, tamaños y ventanas de contexto comprobados con la biblioteca y la documentación de Ollama el 2026-10-26. La biblioteca cambia con frecuencia, así que consulta la página del tag que pienses usar.
Las cuatro etiquetas
La biblioteca de Ollama marca cada modelo con las capacidades que admite. Cuatro de ellas importan para lo que construyes en un servidor. La documentación las describe así.
| Etiqueta | Qué dice la documentación | Cómo se usa |
|---|---|---|
| tools | La llamada a herramientas (tool calling), también llamada llamada a funciones, permite que un modelo invoque herramientas e incorpore sus resultados en sus respuestas. Admite una sola llamada a una herramienta, llamadas paralelas y un bucle de agente de varios turnos. | Indicas las herramientas disponibles en el campo tools de una petición a /api/chat. Cuando el modelo llama a una herramienta, la ejecutas y devuelves el resultado como un mensaje con el rol tool. |
| thinking | Los modelos con capacidad de razonamiento (thinking) entregan su razonamiento por separado de la respuesta final, de modo que puedes auditar los pasos del modelo u ocultar el rastro. | Estableces el parámetro think en una petición. El razonamiento llega en message.thinking y la respuesta en message.content. |
| vision | Los modelos de visión (vision) aceptan imágenes junto con texto, de modo que el modelo puede describir, clasificar y responder preguntas sobre lo que ve. | Pasas un array images en el mensaje. La API REST espera los datos de la imagen codificados en base64. |
| embedding | Los embeddings son vectores numéricos que puedes guardar en una base de datos vectorial, buscar con similitud del coseno o usar en pipelines de RAG. | Llamas a /api/embed. La documentación recomienda la similitud del coseno para la mayoría de las búsquedas semánticas, y el mismo modelo de embeddings para indexar y para consultar. |
Diez modelos y sus etiquetas
Esta tabla enumera las etiquetas que la biblioteca de Ollama muestra para cada familia de modelos, junto con un tag, el tamaño que aparece en la fila de ese tag en la lista de tags y su ventana de contexto. El tamaño es el de la descarga, así que es la memoria mínima que necesita el modelo, no la cantidad que conviene prever.
| Tag | Etiquetas | Tamaño de descarga | Ventana de contexto | Qué dice la biblioteca que es |
|---|---|---|---|---|
| qwen3:4b | tools, thinking | 2.5 GB | 256K | Qwen3 es la última generación de modelos de lenguaje grandes de la serie Qwen |
| llama3.2:3b | tools | 2.0 GB | 128K | Llama 3.2 de Meta se hace pequeño con modelos de 1B y 3B |
| gemma3:4b | vision | 3.4 GB | 128K | El modelo más capaz que se ejecuta en una sola GPU |
| qwen3-vl:4b | vision, tools, thinking | 3.3 GB | 256K | El modelo de visión y lenguaje más potente de la familia Qwen hasta la fecha |
| deepseek-r1:7b | tools, thinking | 4.7 GB | 128K | Una familia de modelos de razonamiento abiertos |
| qwen2.5-coder:7b | tools | 4.7 GB | 32K | La serie más reciente de modelos Qwen específicos para código |
| mistral:7b | tools | 4.4 GB | 32K | El modelo de 7B publicado por Mistral AI, actualizado a la versión 0.3 |
| gpt-oss:20b | tools, thinking | 14 GB | 128K | Los modelos de pesos abiertos de OpenAI para razonamiento y tareas de agentes |
| nomic-embed-text | embedding | 274 MB | 2K | Un modelo de embeddings abierto con una ventana de contexto de tokens grande |
| embeddinggemma | embedding | 622 MB | 2K | Un modelo de embeddings de 300M de parámetros de Google |
Las etiquetas pertenecen a la familia del modelo, y una familia tiene varios tamaños. Abre la página del tag exacto que pienses usar para ver sus tipos de entrada y su tamaño antes de descargarlo.
Ajustar una capacidad a una tarea
La documentación nombra los usos de cada capacidad, y esta es nuestra lectura de lo que significan para un servidor que gestionas tú mismo, no una afirmación sobre su calidad:
- Tools (herramientas): un asistente que puede consultar algo o disparar una acción en tu propio sistema, porque el modelo pide una herramienta y tu código la ejecuta. La definición de herramienta que envías debe seguir la forma de la API, algo que puede comprobar el Tool Definition Checker.
- Thinking (razonamiento): respuestas en las que quieres ver o registrar el razonamiento del modelo por separado, por ejemplo mientras pruebas un prompt. El razonamiento llega antes que la respuesta, así que una respuesta consume más tokens.
- Vision (visión): describir o clasificar una imagen, o responder una pregunta sobre ella, con un modelo que acepta imágenes junto con texto.
- Embedding: búsqueda por significado y recuperación para RAG. Los dos modelos de embeddings de la tabla son descargas pequeñas, de 274 MB y 622 MB, mucho menos que un modelo de chat.
Qué cabe en un VPS
La memoria decide lo que puedes ejecutar. Los tamaños de descarga de arriba son un mínimo, y la longitud del contexto añade una caché KV encima. Para los modelos Qwen3 y Mistral 7B, la calculadora de abajo usa los valores de configuración oficiales, de modo que puedes ver el total para tu longitud de contexto y para el plan que estás considerando.
Para los demás modelos de la tabla la calculadora no tiene ajuste predefinido, porque necesita el número de capas, de cabezas KV y la dimensión de cabeza del archivo de configuración de cada modelo. Puedes introducirlos a mano como un modelo personalizado.
Pruébalo: Local LLM Memory Estimator
Estimación
- Pesos del modelo
- 4.84 GiB
- Caché KV
- 0.56 GiB
- Reserva
- 1.00 GiB
- Total
- 6.41 GiB (6.88 GB)
- Tamaño de memoria habitual más pequeño que lo contiene
- 8 GiB
Es una estimación. No incluye los búferes de cálculo del runtime y supone que todas las capas tienen la misma forma de KV. Mide una ejecución real antes de elegir un plan.
Datos del modelo comprobados el 2026-10-26.
Fuentes: Ollama library · Configuración del modelo (config.json) · Ollama FAQ
Todo se ejecuta en tu navegador. No se sube nada.
Cómo elegir
- Parte de la capacidad que necesitas, elige el modelo más pequeño que lleve su etiqueta y mide la memoria y la velocidad en un servidor de prueba antes de comprometerte con un plan.
- Compara la ventana de contexto de la tabla con tu uso: los dos modelos de embeddings indican 2K, y mistral:7b y qwen2.5-coder:7b indican 32K.
- Un mismo modelo puede reunir varias capacidades. Qwen3 lleva tools y thinking, y Qwen3-VL añade vision.
- La biblioteca añade modelos nuevos con frecuencia. Trata esta tabla como una instantánea de la fecha indicada arriba.
Fuentes
Sigue leyendo
- Llamar a un modelo local desde tu código: salidas estructuradas y la API compatible con OpenAI en OllamaLimita la salida de un modelo local con un JSON Schema y llama a Ollama desde clientes al estilo OpenAI: qué dice la documentación oficial y qué no se admite.
- Instalar Ollama en un VPS y mantenerlo en marcha: instalación, servicio systemd, ajustes y actualizacionesInstala Ollama en un VPS con Linux y mantenlo en marcha: el comando de instalación, el servicio systemd, las variables de entorno, el almacenamiento de modelos y las actualizaciones, según la documentación oficial.
- ¿Cuánta memoria necesita un LLM local en un VPS? Archivo del modelo más caché KVArchivo del modelo más caché KV: lo que dicen la biblioteca de Ollama, las preguntas frecuentes de Ollama y las configuraciones oficiales de los modelos sobre la memoria que necesita un LLM local en un VPS.
- IA en tu propio VPS: cuánta memoria planificar y qué no exponer¿Piensas ejecutar Ollama o Dify en un VPS? Lo que dice la documentación oficial sobre la memoria, la inferencia solo con CPU y los puertos que conviene mantener cerrados.