~/ / Fichiers de modèle et chat templates
Fichiers de modèle et chat templates
Des outils pour regarder à l'intérieur des fichiers dont un modèle est fait, et du template qui transforme une conversation en son prompt. Lisez les en-têtes GGUF et safetensors, rendez un chat template Hugging Face comme le fait transformers, et écrivez, vérifiez et testez un Modelfile Ollama et son TEMPLATE.
Les outils, dans l'ordre où on les utilise
- Ouvrez un fichier GGUF : quantification, contexte, tokenizer, tenseurs, KV cacheGGUF Metadata ViewerOuvrez un fichier GGUF : quantification, contexte, couches, tokenizer, template de chat, tenseurs et KV cache
- Ouvrez des fichiers safetensors : dtypes, paramètres, poids, KV cacheSafetensors Metadata ViewerOuvrez des fichiers safetensors : types de données, paramètres, taille des poids, modèles répartis et KV cache
- Rendez un chat template Hugging Face et voyez le prompt exactHugging Face Chat Template TesterRendez un chat template comme apply_chat_template : texte du prompt, variables et erreurs
- Créez un Modelfile Ollama : FROM, SYSTEM, PARAMETER, MESSAGE et plusOllama Modelfile GeneratorCréez un Modelfile Ollama avec un message système, des paramètres et des séquences d'arrêt
- Vérifiez un Modelfile comme ollama create le litOllama Modelfile CheckerVérifiez un Modelfile comme ollama create le lit : erreurs avec lignes, paramètres et notes
- Exécutez un TEMPLATE Ollama et voyez le prompt exactOllama Template TesterExécutez un TEMPLATE Ollama sur une conversation et voyez le prompt exact reçu par le modèle