~/tools / Fichiers de modèle et chat templates / Hugging Face Chat Template Tester

Hugging Face Chat Template Tester — Rendez un chat template Hugging Face et voyez le prompt exact

Collez un chat template de Hugging Face (Jinja) ou le tokenizer_config.json complet d'un modèle, ajoutez messages et tools, et voyez le texte exact du prompt que produit apply_chat_template(..., tokenize=False) de transformers. L'outil exécute Jinja2 avec les mêmes réglages de sandbox que transformers : le texte, les erreurs et leurs numéros de ligne sont donc les mêmes qu'en Python. Rien ne quitte votre navigateur.

<|im_start|>system
You are a helpful assistant.

# Tools

You can call these functions:
<tools>
{"type": "function", "function": {"name": "get_weather", "description": "Get the current weather in a city.", "parameters": {"type": "object", "properties": {"city": {"type": "string", "description": "City name"}}, "required": ["city"]}}}
</tools>

To call one, reply with JSON inside <tool_call></tool_call>.<|im_end|>
<|im_start|>user
What's the weather in Paris?<|im_end|>
<|im_start|>assistant

<tool_call>
{"name": "get_weather", "arguments": {"city": "Paris"}}
</tool_call><|im_end|>
<|im_start|>user
<tool_response>
{"temperature": 22}
</tool_response><|im_end|>
<|im_start|>assistant

from transformers import AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("MODEL_ID")
messages = [
    {'role': 'system', 'content': 'You are a helpful assistant.'},
    {'role': 'user', 'content': "What's the weather in Paris?"},
    {'role': 'assistant', 'content': '', 'tool_calls': [{'type': 'function', 'function': {'name': 'get_weather', 'arguments': {'city': 'Paris'}}}]},
    {'role': 'tool', 'name': 'get_weather', 'content': '{"temperature": 22}'},
]
tools = [
    {'type': 'function', 'function': {'name': 'get_weather', 'description': 'Get the current weather in a city.', 'parameters': {'type': 'object', 'properties': {'city': {'type': 'string', 'description': 'City name'}}, 'required': ['city']}}},
]
text = tokenizer.apply_chat_template(
    messages,
    tools=tools,
    add_generation_prompt=True,
    tokenize=False,
)
print(text)

La plupart des modèles ouverts de Hugging Face fournissent un chat template : un petit programme Jinja qui transforme une liste de messages en texte que le modèle lit réellement. Une espace manquante, un BOS en double ou un prompt de génération erroné change ce que voit le modèle, et le template est difficile à lire sans l'exécuter. Cet outil l'exécute comme le fait transformers. Nous avons porté Jinja2 3.1.6 en JavaScript : son analyseur lexical, son analyseur syntaxique, les règles sur les variables visibles et à quel endroit, le pliage des constantes, le sandbox qu'utilise transformers et tous les filtres et tests intégrés, ainsi que le comportement propre à Python pour les chaînes, les nombres, le tri et les messages d'erreur. Par-dessus, il suit apply_chat_template de transformers 5.22.2 : tokens spéciaux comme bos_token, le template tool_use quand des tools sont fournis, add_generation_prompt, continue_final_message, documents, reasoning_content et les portions {% generation %}. Nous avons rendu les chat templates de 39 modèles ouverts (Qwen, Llama, Mistral, Gemma, Phi, DeepSeek, gpt-oss et d'autres) avec 15 types de conversations, et les 585 résultats correspondaient à transformers. Plus de 20 000 autres templates de test correspondaient aussi, erreurs et numéros de ligne compris, sauf quelques-uns qui utilisent le filtre random, dont le résultat est aussi aléatoire en Python.