~/tools / Arquivos de modelo e templates de chat / Hugging Face Chat Template Tester

Hugging Face Chat Template Tester — Renderize um template de chat da Hugging Face e veja o prompt exato

Cole um template de chat da Hugging Face (Jinja) ou o tokenizer_config.json inteiro de um modelo, adicione messages e tools, e veja o texto exato do prompt que apply_chat_template(..., tokenize=False) do transformers produz. A ferramenta executa o Jinja2 com as mesmas configurações de sandbox do transformers, então o texto, os erros e os números de linha são os mesmos do Python. Nada sai do seu navegador.

<|im_start|>system
You are a helpful assistant.

# Tools

You can call these functions:
<tools>
{"type": "function", "function": {"name": "get_weather", "description": "Get the current weather in a city.", "parameters": {"type": "object", "properties": {"city": {"type": "string", "description": "City name"}}, "required": ["city"]}}}
</tools>

To call one, reply with JSON inside <tool_call></tool_call>.<|im_end|>
<|im_start|>user
What's the weather in Paris?<|im_end|>
<|im_start|>assistant

<tool_call>
{"name": "get_weather", "arguments": {"city": "Paris"}}
</tool_call><|im_end|>
<|im_start|>user
<tool_response>
{"temperature": 22}
</tool_response><|im_end|>
<|im_start|>assistant

from transformers import AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("MODEL_ID")
messages = [
    {'role': 'system', 'content': 'You are a helpful assistant.'},
    {'role': 'user', 'content': "What's the weather in Paris?"},
    {'role': 'assistant', 'content': '', 'tool_calls': [{'type': 'function', 'function': {'name': 'get_weather', 'arguments': {'city': 'Paris'}}}]},
    {'role': 'tool', 'name': 'get_weather', 'content': '{"temperature": 22}'},
]
tools = [
    {'type': 'function', 'function': {'name': 'get_weather', 'description': 'Get the current weather in a city.', 'parameters': {'type': 'object', 'properties': {'city': {'type': 'string', 'description': 'City name'}}, 'required': ['city']}}},
]
text = tokenizer.apply_chat_template(
    messages,
    tools=tools,
    add_generation_prompt=True,
    tokenize=False,
)
print(text)

A maioria dos modelos abertos da Hugging Face traz um template de chat: um pequeno programa Jinja que transforma uma lista de mensagens no texto que o modelo realmente lê. Um espaço faltando, um BOS duplicado ou um prompt de geração errado muda o que o modelo vê, e o template é difícil de ler sem executá-lo. Esta ferramenta o executa como o transformers faz. Portamos o Jinja2 3.1.6 para JavaScript: seu analisador léxico, seu analisador sintático, as regras de quais variáveis são visíveis e onde, a dobra de constantes, o sandbox que o transformers usa e todos os filtros e testes embutidos, junto com o comportamento próprio do Python para strings, números, ordenação e mensagens de erro. Por cima disso, ela segue o apply_chat_template do transformers 5.22.2: tokens especiais como bos_token, o template tool_use quando tools são fornecidas, add_generation_prompt, continue_final_message, documents, reasoning_content e os trechos {% generation %}. Renderizamos os templates de chat de 39 modelos abertos (Qwen, Llama, Mistral, Gemma, Phi, DeepSeek, gpt-oss e outros) com 15 tipos de conversas, e os 585 resultados coincidiram com o transformers. Mais de 20.000 outros templates de teste também coincidiram, incluindo erros e números de linha, exceto alguns que usam o filtro random, cujo resultado também é aleatório no Python.