~/ / Modelldateien und Chat-Templates
Modelldateien und Chat-Templates
Tools, um in die Dateien eines Modells und in das Template zu schauen, das eine Unterhaltung in den Prompt verwandelt. Lies GGUF- und safetensors-Header, rendere ein Hugging-Face-Chat-Template so wie transformers und schreibe, prüfe und teste ein Ollama-Modelfile samt TEMPLATE.
Tools in der Reihenfolge der Anwendung
- GGUF-Datei öffnen: Quantisierung, Kontext, Tokenizer, Tensoren, KV-CacheGGUF Metadata ViewerGGUF-Datei öffnen: Quantisierung, Kontext, Schichten, Tokenizer, Chat-Template, Tensoren und KV-Cache
- safetensors-Dateien öffnen: dtypes, Parameter, Gewichtsgröße, KV-CacheSafetensors Metadata Viewersafetensors-Dateien öffnen: Datentypen, Parameter, Gewichtsgröße, Prüfung verteilter Modelle und KV-Cache
- Ein Hugging Face Chat-Template rendern und den genauen Prompt sehenHugging Face Chat Template TesterEin Chat-Template genau wie apply_chat_template rendern: Prompt-Text, Variablen und Fehler
- Ein Ollama Modelfile erstellen: FROM, SYSTEM, PARAMETER, MESSAGE und mehrOllama Modelfile GeneratorEin Ollama Modelfile mit Systemnachricht, Parametern und Stoppsequenzen erstellen
- Ein Modelfile so prüfen, wie ollama create es liestOllama Modelfile CheckerEin Modelfile so prüfen, wie ollama create es liest: Fehler mit Zeilen, Parameter und Hinweise
- Ein Ollama-TEMPLATE ausführen und den genauen Prompt sehenOllama Template TesterEin Ollama-TEMPLATE auf ein Gespräch anwenden und den genauen Prompt des Modells sehen