~/ / File model dan templat obrolan

File model dan templat obrolan

Tool untuk melihat isi file-file penyusun sebuah model, dan templat yang mengubah percakapan menjadi prompt. Baca header GGUF dan safetensors, render templat obrolan Hugging Face seperti yang dilakukan transformers, serta tulis, periksa, dan uji Modelfile dan TEMPLATE Ollama.

Tool, sesuai urutan pemakaian

  1. Buka file GGUF: kuantisasi, konteks, tokenizer, tensor, KV cacheGGUF Metadata ViewerBuka file GGUF: kuantisasi, konteks, layer, tokenizer, chat template, tensor, dan KV cache
  2. Buka file safetensors: tipe data, parameter, ukuran bobot, KV cacheSafetensors Metadata ViewerBuka file safetensors: tipe data, parameter, ukuran bobot, pemeriksaan model terpecah, dan KV cache
  3. Render chat template Hugging Face dan lihat prompt persisnyaHugging Face Chat Template TesterRender chat template persis seperti apply_chat_template: teks prompt, variabel, dan error
  4. Buat Modelfile Ollama: FROM, SYSTEM, PARAMETER, MESSAGE, dan lainnyaOllama Modelfile GeneratorBuat Modelfile Ollama dengan pesan sistem, parameter, dan urutan penghenti
  5. Periksa Modelfile seperti cara ollama create membacanyaOllama Modelfile CheckerPeriksa Modelfile seperti cara ollama create membacanya: error dengan baris, parameter, dan catatan
  6. Jalankan TEMPLATE Ollama dan lihat prompt persisnyaOllama Template TesterJalankan TEMPLATE Ollama pada sebuah percakapan dan lihat prompt persis yang diterima model

Topik lainnya