~/tools / Model dosyaları ve sohbet şablonları / Ollama Template Tester

Ollama Template Tester — Bir Ollama TEMPLATE'ini çalıştırın, istemi olduğu gibi görün

Bir Ollama modelinin TEMPLATE'ini (ollama show --template çıktısından veya Modelfile'ınızdan) yapıştırın, bir konuşma, tools ya da bir istem ekleyin ve Ollama'nın modele verdiği metni olduğu gibi görün: özel belirteçler, satır sonları ve her şeyiyle. Araç şablonu Ollama'nın yaptığı gibi çalıştırır: Go'nun şablon kurallarıyla, Ollama'nın verileriyle (mesajlar, araç çağrıları, tools, think) ve Ollama'nın bir şablonu çalıştırdığı üç yolla. Ayrıca Ollama'nın TEMPLATE'inizi mi yoksa GGUF dosyasındaki sohbet şablonunu mu kullanacağını ve Ollama'nın tools ya da thinking içeren bir isteği ne zaman reddedeceğini söyler. Hiçbir veri tarayıcınızdan çıkmaz.

<|im_start|>system
You are a helpful assistant.

# Tools

You may call one or more functions to assist with the user query.

You are provided with function signatures within <tools></tools> XML tags:
<tools>
{"type": "function", "function": {get_weather Get the current weather for a city {object <nil> <nil> [city] {"city":{"type":"string","description":"City name"}}}}}
</tools>

For each function call, return a json object with function name and arguments within <tool_call></tool_call> XML tags:
<tool_call>
{"name": <function-name>, "arguments": <args-json-object>}
</tool_call><|im_end|>
<|im_start|>user
What is the weather in Tokyo?<|im_end|>
<|im_start|>assistant
<tool_call>
{"name": "get_weather", "arguments": {"city":"Tokyo"}}
</tool_call><|im_end|>
<|im_start|>user
<tool_response>
{"temperature": 20}
</tool_response><|im_end|>
<|im_start|>assistant
It is 20°C in Tokyo.<|im_end|>
<|im_start|>user
Thanks!<|im_end|>
<|im_start|>assistant

curl -s http://localhost:11434/api/chat -d '{"model":"MODEL","messages":[{"role":"system","content":"You are a helpful assistant."},{"role":"user","content":"What is the weather in Tokyo?"},{"role":"assistant","content":"","tool_calls":[{"function":{"name":"get_weather","arguments":{"city":"Tokyo"}}}]},{"role":"tool","content":"{\"temperature\": 20}","tool_name":"get_weather"},{"role":"assistant","content":"It is 20°C in Tokyo."},{"role":"user","content":"Thanks!"}],"tools":[{"type":"function","function":{"name":"get_weather","description":"Get the current weather for a city","parameters":{"type":"object","properties":{"city":{"type":"string","description":"City name"}},"required":["city"]}}}],"stream":false,"_debug_render_only":true}'

Ollama, bir konuşmayı modelin okuduğu metne modelin TEMPLATE'iyle dönüştürür; bu şablon Go'nun şablon dilinde yazılır: {{ range .Messages }}, {{ .Role }}, {{ .Content }}, {{ if .Tools }} ve benzerleri. Eksik bir satır sonu, fazla kırpan bir {{- ya da var olmayan bir alan adı gibi küçük bir hata, modelin gördüğünü değiştirir veya her isteğin başarısız olmasına yol açar. Bu araç şablonunuzu Ollama'nın yaptığı gibi çalıştırır. Go text/template kurallarını izler (kırpma işaretleri, değişkenler, range, with, karşılaştırmalar, printf, hata iletileri), Ollama'nın verdiği verilerin aynısını verir (System, Role, Content, Thinking, ToolCalls, ToolName ve ToolCallID içeren Messages, Tools, Think, ThinkLevel, IsThinkSet, Prompt, Suffix, Response) ve Ollama'nın ek işlevlerine sahiptir (json, currentDate, yesterdayDate, toTypeScriptType). Ollama'nın verileri nasıl hazırladığını da taklit eder: sistem mesajları .System içinde birleştirilir, aynı rolden ardışık mesajlar bir boş satırla birleştirilir, ilk mesaj sistem mesajı değilse modelin SYSTEM'i eklenir ve görüntüler [img-0], [img-1] gibi olur. .Messages'ı hiç kullanmayan bir şablon eski yöntemle çalışır, her tur için bir kez .Prompt ve .Response ile; ikisini de kullanmayan bir şablona Ollama {{ .Response }} ekler. Ollama 0.40'tan beri bir model GGUF dosyasının içinde de bir sohbet şablonu taşıyabilir (tokenizer.chat_template) ve Ollama ikisinden birini her birinin neler yapabildiğine göre seçer: tools, thinking ve ortasını doldurma (fill-in-the-middle). GGUF sohbet şablonunu "Gelişmiş" bölümüne yapıştırın, araç Ollama'nın hangisini kullanacağını söyler. Aracı üç şekilde denetledik: Go'nun kendi text/template'ine (Go 1.26.6), Ollama'nın şablon kodunu çalıştırarak, 243 durumda, Ollama'nın yerleşik 20 şablonu dahil, bunların test çıktılarıyla eşleşerek; bu bilgisayardaki Ollama 0.40.11'e 330 /api/generate isteğiyle; ve qwen2.5:7b'ye ve kendi TEMPLATE'lerimizle oluşturduğumuz modellere 49 /api/chat isteğiyle. Çıktı ve hata iletileri eşleşti.

Bu aracın temel mantığı MIT lisansıyla açık kaynaktır. github.com/seigo5555/toolkitbox-lib/src/ollama-template.ts