~/ / モデルのファイルとチャットテンプレート
モデルのファイルとチャットテンプレート
モデルを形づくるファイルと、会話をプロンプトに変えるテンプレートの中身を確かめるツールです。GGUF と safetensors の見出しを読み、Hugging Face のチャットテンプレートを transformers と同じに描画し、Ollama の Modelfile と TEMPLATE を書いて、確かめて、試します。
使う順に並べたツール
- GGUF の量子化・コンテキスト・KV キャッシュを確認GGUF Metadata ViewerGGUF を開いて、量子化・コンテキスト・レイヤー・トークナイザー・チャットテンプレート・テンソル・KV キャッシュを確認
- safetensors のデータ型と重みのサイズを確認Safetensors Metadata Viewersafetensors を開いて、データ型・パラメータ・重みのサイズ・分割モデルの検査・KV キャッシュを確認
- チャットテンプレートを描画して確認Hugging Face Chat Template Testerチャットテンプレートを apply_chat_template と同じに描画: プロンプトのテキスト、変数、エラー
- Ollama の Modelfile を作るOllama Modelfile Generatorシステムメッセージ、パラメータ、ストップシーケンスを指定して Ollama の Modelfile を作ります
- ollama create の読み方で Modelfile を確認Ollama Modelfile Checkerollama create の読み方で Modelfile を確認: 行つきのエラー、パラメータ、注意点
- Ollama の TEMPLATE を実行してプロンプトを確認Ollama Template TesterOllama の TEMPLATE を会話に当てて、モデルが受け取るプロンプトそのものを見る