~/tools / Tệp mô hình và mẫu chat / Ollama Modelfile Checker

Ollama Modelfile Checker — Kiểm tra Modelfile theo cách ollama create đọc

Dán một Modelfile của Ollama để biết ollama create có chấp nhận nó hay không, trước khi bạn chạy. Công cụ đọc tệp giống cách Ollama làm và hiển thị chính thông báo lỗi của Ollama kèm số dòng, mỗi instruction cuối cùng trở thành gì, các parameter với kiểu mà Ollama lưu, các tin nhắn ví dụ, cùng những điều cần lưu ý, chẳng hạn một giá trị kết thúc sớm hoặc một TEMPLATE mà Ollama có thể không dùng. Không có gì rời khỏi trình duyệt của bạn.

{"num_ctx":8192,"stop":["\u003c|im_end|\u003e"],"temperature":0.7}

FROM qwen2.5:7b
PARAMETER num_ctx 8192
PARAMETER temperature 0.7
PARAMETER stop <|im_end|>
SYSTEM "
You are a concise assistant.
Answer in one or two sentences.
"
MESSAGE user Is Toronto in Canada?
MESSAGE assistant yes

Một Modelfile trông đơn giản, nhưng những lỗi nhỏ khiến ollama create thất bại với các thông báo ngắn như "unexpected EOF" hoặc "command must be one of ...". Công cụ này đi theo mã nguồn của Ollama từng bước. Trước hết, nó đọc tệp bằng cùng một máy trạng thái như trình phân tích của Ollama: instruction viết hoa hay thường đều được, giá trị kết thúc ở cuối dòng trừ khi bắt đầu bằng " hoặc """, tên PARAMETER, vai trò của MESSAGE và chú thích. Tiếp theo, nó làm những gì ollama create làm trước khi liên lạc với máy chủ: dừng ở ADAPTER và typical_p, kiểm tra CAPABILITY và REQUIRES, và chuyển mỗi PARAMETER sang kiểu của nó như API của Ollama làm (số nguyên, số thực 32 bit, true hoặc false, và stop dưới dạng danh sách). Cuối cùng, nó kiểm tra TEMPLATE bằng quy tắc template của Go, như máy chủ làm. Nó hiển thị các parameter dưới dạng JSON mà mô hình mới lưu, cuộc hội thoại ví dụ, và Modelfile như Ollama ghi lại. Chúng tôi đã kiểm tra công cụ với 43 Modelfile trên Ollama 0.40.11: với mỗi tệp, nó cho cùng lỗi như ollama create, hoặc cùng các parameter, system message, template, tin nhắn và giấy phép đã lưu như mô hình mà ollama create tạo ra.