~/ / Pliki modeli i szablony czatu
Pliki modeli i szablony czatu
Narzędzia do zaglądania do plików, z których składa się model, oraz do szablonu zamieniającego rozmowę na prompt. Czytaj nagłówki GGUF i safetensors, renderuj szablon czatu Hugging Face tak jak transformers oraz pisz, sprawdzaj i testuj Modelfile Ollamy wraz z TEMPLATE.
Narzędzia w kolejności użycia
- Otwórz plik GGUF: kwantyzacja, kontekst, tokenizer, tensory, KV cacheGGUF Metadata ViewerOtwórz plik GGUF: kwantyzacja, kontekst, warstwy, tokenizer, szablon czatu, tensory i KV cache
- Otwórz pliki safetensors: dtype, parametry, rozmiar wag, KV cacheSafetensors Metadata ViewerOtwórz pliki safetensors: typy danych, parametry, rozmiar wag, sprawdzanie podzielonych modeli i KV cache
- Wyrenderuj szablon czatu Hugging Face i zobacz dokładny promptHugging Face Chat Template TesterWyrenderuj szablon czatu dokładnie jak apply_chat_template: tekst promptu, zmienne i błędy
- Zbuduj Ollama Modelfile: FROM, SYSTEM, PARAMETER, MESSAGE i więcejOllama Modelfile GeneratorZbuduj Ollama Modelfile z komunikatem systemowym, parametrami i sekwencjami zatrzymującymi
- Sprawdź Modelfile tak, jak czyta go ollama createOllama Modelfile CheckerSprawdź Modelfile tak, jak czyta go ollama create: błędy z wierszami, parametry i uwagi
- Uruchom TEMPLATE Ollama i zobacz dokładny promptOllama Template TesterUruchom TEMPLATE Ollama na rozmowie i zobacz dokładny prompt, który dostaje model