~/ / Файлы моделей и шаблоны чата
Файлы моделей и шаблоны чата
Инструменты, чтобы заглянуть внутрь файлов, из которых состоит модель, и в шаблон, превращающий диалог в промпт. Читайте заголовки GGUF и safetensors, рендерите шаблон чата Hugging Face так же, как transformers, а также пишите, проверяйте и тестируйте Modelfile Ollama и его TEMPLATE.
Инструменты в порядке использования
- Откройте файл GGUF: квантизация, контекст, токенизатор, тензоры, кэш KVGGUF Metadata ViewerОткройте файл GGUF: квантизация, контекст, слои, токенизатор, шаблон чата, тензоры и кэш KV
- Откройте файлы safetensors: dtype, параметры, размер весов, кэш KVSafetensors Metadata ViewerОткройте файлы safetensors: типы данных, параметры, размер весов, проверка разбитой модели и кэш KV
- Отрисуйте чат-шаблон Hugging Face и увидите точный промптHugging Face Chat Template TesterОтрисуйте чат-шаблон точно как apply_chat_template: текст промпта, переменные и ошибки
- Соберите Modelfile для Ollama: FROM, SYSTEM, PARAMETER, MESSAGE и другоеOllama Modelfile GeneratorСоберите Modelfile для Ollama с системным сообщением, параметрами и стоп-последовательностями
- Проверьте Modelfile так, как его читает ollama createOllama Modelfile CheckerПроверьте Modelfile так, как его читает ollama create: ошибки со строками, параметры и замечания
- Выполните TEMPLATE Ollama и увидите точный промптOllama Template TesterВыполните TEMPLATE Ollama на диалоге и увидите точный промпт, который получает модель