~/ / File di modello e chat template
File di modello e chat template
Strumenti per guardare dentro i file di cui è fatto un modello e il template che trasforma una conversazione nel suo prompt. Leggi gli header di GGUF e safetensors, genera un chat template di Hugging Face come fa transformers, e scrivi, controlla e prova un Modelfile di Ollama e il suo TEMPLATE.
Gli strumenti, nell'ordine in cui si usano
- Apri un file GGUF: quantizzazione, contesto, tokenizer, tensori, cache KVGGUF Metadata ViewerApri un file GGUF: quantizzazione, contesto, layer, tokenizer, template di chat, tensori e cache KV
- Apri file safetensors: dtype, parametri, pesi, cache KVSafetensors Metadata ViewerApri file safetensors: tipi di dati, parametri, dimensione dei pesi, modelli divisi e cache KV
- Rendi un chat template di Hugging Face e vedi il prompt esattoHugging Face Chat Template TesterRendi un chat template come apply_chat_template: testo del prompt, variabili ed errori
- Crea un Modelfile di Ollama: FROM, SYSTEM, PARAMETER, MESSAGE e altroOllama Modelfile GeneratorCrea un Modelfile di Ollama con messaggio di sistema, parametri e sequenze di stop
- Controlla un Modelfile come lo legge ollama createOllama Modelfile CheckerControlla un Modelfile come lo legge ollama create: errori con righe, parametri e note
- Esegui un TEMPLATE di Ollama e vedi il prompt esattoOllama Template TesterEsegui un TEMPLATE di Ollama su una conversazione e vedi il prompt esatto che riceve il modello