~/ / 模型檔案與聊天範本

模型檔案與聊天範本

用來查看組成模型的檔案，以及把對話轉成提示詞的範本內容的工具。可讀取 GGUF 與 safetensors 的標頭，以與 transformers 相同的方式算繪 Hugging Face 聊天範本，並撰寫、檢查與測試 Ollama 的 Modelfile 與 TEMPLATE。

依使用順序排列的工具

  1. 開啟 GGUF 檔案：量化、上下文、tokenizer、張量、KV cacheGGUF Metadata Viewer開啟 GGUF 檔案：量化、上下文、層數、tokenizer、聊天範本、張量與 KV cache
  2. 開啟 safetensors：資料型別、參數、權重大小、KV cacheSafetensors Metadata Viewer開啟 safetensors 檔案：資料型別、參數、權重大小、分片模型檢查與 KV cache
  3. 渲染 Hugging Face 聊天範本,看到確切的提示詞Hugging Face Chat Template Tester像 apply_chat_template 一樣渲染聊天範本:提示詞文字、變數與錯誤
  4. 建立 Ollama Modelfile:FROM、SYSTEM、PARAMETER、MESSAGE 等Ollama Modelfile Generator建立含有系統訊息、參數與停止序列的 Ollama Modelfile
  5. 以 ollama create 的讀法檢查 ModelfileOllama Modelfile Checker以 ollama create 的讀法檢查 Modelfile:附行號的錯誤、parameter 與注意事項
  6. 執行 Ollama TEMPLATE,看到完整提示詞Ollama Template Tester對一段對話執行 Ollama 的 TEMPLATE,看到模型收到的完整提示詞

其他主題