~/tools / Fichiers de modèle et chat templates / Ollama Template Tester

Ollama Template Tester — Exécutez un TEMPLATE Ollama et voyez le prompt exact

Collez le TEMPLATE d'un modèle Ollama (issu de ollama show --template ou de votre Modelfile), ajoutez une conversation, des outils ou un prompt, et voyez le texte exact qu'Ollama remet au modèle : tokens spéciaux, retours à la ligne et tout le reste. L'outil exécute le modèle de prompt comme le fait Ollama, avec les règles des templates de Go, les données d'Ollama (messages, tool calls, outils, think) et ses trois façons d'exécuter un template. Il indique aussi si Ollama utilisera votre TEMPLATE ou le chat template contenu dans le fichier GGUF, et quand Ollama refuse une requête avec des outils ou du thinking. Rien ne quitte votre navigateur.

<|im_start|>system
You are a helpful assistant.

# Tools

You may call one or more functions to assist with the user query.

You are provided with function signatures within <tools></tools> XML tags:
<tools>
{"type": "function", "function": {get_weather Get the current weather for a city {object <nil> <nil> [city] {"city":{"type":"string","description":"City name"}}}}}
</tools>

For each function call, return a json object with function name and arguments within <tool_call></tool_call> XML tags:
<tool_call>
{"name": <function-name>, "arguments": <args-json-object>}
</tool_call><|im_end|>
<|im_start|>user
What is the weather in Tokyo?<|im_end|>
<|im_start|>assistant
<tool_call>
{"name": "get_weather", "arguments": {"city":"Tokyo"}}
</tool_call><|im_end|>
<|im_start|>user
<tool_response>
{"temperature": 20}
</tool_response><|im_end|>
<|im_start|>assistant
It is 20°C in Tokyo.<|im_end|>
<|im_start|>user
Thanks!<|im_end|>
<|im_start|>assistant

curl -s http://localhost:11434/api/chat -d '{"model":"MODEL","messages":[{"role":"system","content":"You are a helpful assistant."},{"role":"user","content":"What is the weather in Tokyo?"},{"role":"assistant","content":"","tool_calls":[{"function":{"name":"get_weather","arguments":{"city":"Tokyo"}}}]},{"role":"tool","content":"{\"temperature\": 20}","tool_name":"get_weather"},{"role":"assistant","content":"It is 20°C in Tokyo."},{"role":"user","content":"Thanks!"}],"tools":[{"type":"function","function":{"name":"get_weather","description":"Get the current weather for a city","parameters":{"type":"object","properties":{"city":{"type":"string","description":"City name"}},"required":["city"]}}}],"stream":false,"_debug_render_only":true}'

Ollama transforme une conversation en le texte que lit un modèle grâce au TEMPLATE du modèle, écrit dans le langage de templates de Go : {{ range .Messages }}, {{ .Role }}, {{ .Content }}, {{ if .Tools }} et ainsi de suite. Une petite erreur, comme un retour à la ligne manquant, un {{- qui coupe trop ou un nom de champ qui n'existe pas, change ce que voit le modèle ou fait échouer toutes les requêtes. Cet outil exécute votre template comme le fait Ollama. Il suit les règles de text/template de Go (marqueurs de coupe, variables, range, with, comparaisons, printf, messages d'erreur), transmet les mêmes données qu'Ollama (System, Messages avec Role, Content, Thinking, ToolCalls, ToolName et ToolCallID, Tools, Think, ThinkLevel, IsThinkSet, Prompt, Suffix, Response) et dispose des fonctions supplémentaires d'Ollama (json, currentDate, yesterdayDate, toTypeScriptType). Il reproduit aussi la façon dont Ollama prépare les données : les messages système sont réunis dans .System, les messages consécutifs du même rôle sont réunis avec une ligne vide, le SYSTEM du modèle est ajouté quand le premier message n'est pas un message système, et les images deviennent [img-0], [img-1] et ainsi de suite. Un template qui n'utilise jamais .Messages s'exécute à l'ancienne, une fois par tour avec .Prompt et .Response, et Ollama ajoute {{ .Response }} à un template qui n'utilise ni l'un ni l'autre. Depuis Ollama 0.40, un modèle peut aussi embarquer un chat template dans son fichier GGUF (tokenizer.chat_template), et Ollama choisit l'un des deux selon ce que chacun sait faire : outils, thinking et fill-in-the-middle. Collez le chat template du GGUF sous Avancé et l'outil vous dit lequel Ollama utilisera. Nous avons vérifié l'outil de trois façons : avec le text/template de Go lui-même (Go 1.26.6) exécutant le code de templates d'Ollama sur 243 cas, dont les 20 templates intégrés d'Ollama, dont il reproduit les sorties de test ; avec Ollama 0.40.11 sur cet ordinateur, avec 330 requêtes à /api/generate ; et avec 49 requêtes à /api/chat vers qwen2.5:7b et vers des modèles que nous avons créés avec nos propres TEMPLATE. La sortie et les messages d'erreur concordaient.

Le cœur de cet outil est open source, sous licence MIT. github.com/seigo5555/toolkitbox-lib/src/ollama-template.ts