~/ / Model dosyaları ve sohbet şablonları
Model dosyaları ve sohbet şablonları
Bir modeli oluşturan dosyaların ve bir konuşmayı prompt'a çeviren şablonun içine bakmak için araçlar. GGUF ve safetensors başlıklarını okuyun, bir Hugging Face sohbet şablonunu transformers'ın yaptığı gibi işleyin ve bir Ollama Modelfile'ını TEMPLATE'iyle birlikte yazın, denetleyin ve test edin.
Araçlar, kullanım sırasına göre
- Bir GGUF dosyası açın: nicemleme, bağlam, tokenizer, tensörler, KV önbelleğiGGUF Metadata ViewerBir GGUF dosyası açın: nicemleme, bağlam, katmanlar, tokenizer, sohbet şablonu, tensörler ve KV önbelleği
- safetensors dosyalarını açın: dtype, parametreler, ağırlık boyutu, KV önbelleğiSafetensors Metadata Viewersafetensors dosyalarını açın: veri türleri, parametreler, ağırlık boyutu, bölünmüş model denetimi ve KV önbelleği
- Bir Hugging Face sohbet şablonunu işleyin, istemi olduğu gibi görünHugging Face Chat Template TesterBir sohbet şablonunu tam olarak apply_chat_template gibi işleyin: istem metni, değişkenler ve hatalar
- Ollama Modelfile oluşturun: FROM, SYSTEM, PARAMETER, MESSAGE ve daha fazlasıOllama Modelfile GeneratorSistem mesajı, parametreler ve durdurma dizileriyle bir Ollama Modelfile oluşturun
- Modelfile'ı ollama create'in okuduğu gibi denetleyinOllama Modelfile CheckerModelfile'ı ollama create'in okuduğu gibi denetleyin: satırlı hatalar, parametreler ve notlar
- Bir Ollama TEMPLATE'ini çalıştırın, istemi olduğu gibi görünOllama Template TesterBir Ollama TEMPLATE'ini bir konuşma üzerinde çalıştırın ve modelin aldığı istemi olduğu gibi görün