~/tools / Modelldateien und Chat-Templates / Ollama Modelfile Checker

Ollama Modelfile Checker — Ein Modelfile so prüfen, wie ollama create es liest

Fügen Sie ein Ollama Modelfile ein und sehen Sie, ob ollama create es akzeptiert, bevor Sie den Befehl ausführen. Das Tool liest die Datei so wie Ollama und zeigt die eigene Fehlermeldung von Ollama mit der Zeile, was aus jeder Instruktion wird, die Parameter mit den Typen, die Ollama speichert, die Beispielnachrichten und Dinge, auf die Sie achten sollten, etwa einen Wert, der zu früh endet, oder ein TEMPLATE, das Ollama möglicherweise nicht verwendet. Nichts verlässt Ihren Browser.

{"num_ctx":8192,"stop":["\u003c|im_end|\u003e"],"temperature":0.7}

FROM qwen2.5:7b
PARAMETER num_ctx 8192
PARAMETER temperature 0.7
PARAMETER stop <|im_end|>
SYSTEM "
You are a concise assistant.
Answer in one or two sentences.
"
MESSAGE user Is Toronto in Canada?
MESSAGE assistant yes

Ein Modelfile sieht einfach aus, doch kleine Fehler lassen ollama create mit kurzen Meldungen wie "unexpected EOF" oder "command must be one of ..." scheitern. Dieses Tool folgt dem Quellcode von Ollama Schritt für Schritt. Zuerst liest es die Datei mit demselben Zustandsautomaten wie der Parser von Ollama: Instruktionen in beliebiger Groß- und Kleinschreibung, Werte, die am Zeilenende enden, außer sie beginnen mit " oder """, PARAMETER-Namen, MESSAGE-Rollen und Kommentare. Dann tut es, was ollama create tut, bevor es den Server kontaktiert: Es bricht bei ADAPTER und typical_p ab, prüft CAPABILITY und REQUIRES und wandelt jeden PARAMETER wie die API von Ollama in seinen Typ um (ganze Zahlen, 32-Bit-Gleitkommazahlen, true oder false und stop als Liste). Zuletzt prüft es das TEMPLATE mit den Template-Regeln von Go, so wie es der Server tut. Es zeigt die Parameter als das JSON, das das neue Modell speichert, das Beispielgespräch und das Modelfile so, wie Ollama es zurückschreibt. Wir haben das Tool mit 43 Modelfiles unter Ollama 0.40.11 geprüft: Bei jedem gab es denselben Fehler aus wie ollama create oder dieselben gespeicherten Parameter, dieselbe Systemnachricht, dasselbe Template, dieselben Nachrichten und Lizenzen wie das Modell, das ollama create erstellt hat.