~/ / Tệp mô hình và mẫu chat
Tệp mô hình và mẫu chat
Các công cụ để xem bên trong những tệp tạo nên một mô hình và mẫu biến cuộc trò chuyện thành prompt. Đọc phần đầu của GGUF và safetensors, kết xuất mẫu chat của Hugging Face giống như transformers, rồi viết, kiểm tra và thử Modelfile cùng TEMPLATE của Ollama.
Các công cụ, theo thứ tự bạn dùng
- Mở tệp GGUF: lượng tử hóa, ngữ cảnh, tokenizer, tensor, KV cacheGGUF Metadata ViewerMở tệp GGUF: lượng tử hóa, ngữ cảnh, số lớp, tokenizer, chat template, tensor và KV cache
- Mở tệp safetensors: kiểu dữ liệu, tham số, kích thước trọng số, KV cacheSafetensors Metadata ViewerMở tệp safetensors: kiểu dữ liệu, tham số, kích thước trọng số, kiểm tra mô hình chia nhỏ và KV cache
- Render chat template của Hugging Face và xem chính xác promptHugging Face Chat Template TesterRender chat template đúng như apply_chat_template: văn bản prompt, biến và lỗi
- Tạo Ollama Modelfile: FROM, SYSTEM, PARAMETER, MESSAGE và hơn thế nữaOllama Modelfile GeneratorTạo Ollama Modelfile với thông điệp hệ thống, tham số và chuỗi dừng
- Kiểm tra Modelfile theo cách ollama create đọcOllama Modelfile CheckerKiểm tra Modelfile theo cách ollama create đọc: lỗi kèm dòng, parameter và lưu ý
- Chạy TEMPLATE của Ollama và xem chính xác promptOllama Template TesterChạy TEMPLATE của Ollama trên một cuộc hội thoại và xem chính xác prompt mà mô hình nhận