LLM JSON Repair — Defektes JSON einer KI reparieren

Was als gültiges JSON gilt

• Strings und Mitgliedsnamen verwenden ausschließlich doppelte Anführungszeichen. Einfache Anführungszeichen gehören nicht zur Grammatik.
• Es gibt keine Kommentare. Als Füllmaterial ist nur Leerraum erlaubt.
• Ein Komma steht nur zwischen Mitgliedern oder Elementen, ein nachgestelltes Komma ist daher nicht erlaubt.
• Ein Wert ist ein Objekt, ein Array, eine Zahl oder ein String, oder einer von false, null und true. Infinity, NaN und undefined sind keine JSON-Werte.
• Zahlen dürfen keine führende Null und kein führendes + haben, und ein Dezimalpunkt braucht auf beiden Seiten Ziffern. 012, +5, .5 und 5. sind also alle ungültig.
• Steuerzeichen von U+0000 bis U+001F müssen in einem String maskiert werden, ein roher Zeilenumbruch in einem String ist daher ungültig.
• Die oberste Ebene kann jeder beliebige Wert sein, nicht nur ein Objekt oder ein Array.

Woran Modellausgaben meistens scheitern

Was sich sicher reparieren lässt und was nicht

Eine Reparatur ist sicher, wenn der defekte Text nur eine sinnvolle Lesart hat. Ein nachgestelltes Komma, ein Kommentar oder ein Code-Fence lässt sich entfernen, ohne dass sich ändert, was die Daten aussagen. Andere Änderungen verändern die Bedeutung, daher werden sie markiert, und Sie sollten sie prüfen: Wird eine abgeschnittene Antwort geschlossen, entsteht gültiges JSON, dem Daten fehlen, und wird NaN zu null, geht der ursprüngliche Wert verloren.

Zwei Grenzen kommen von JSON selbst. RFC 8259 sagt, dass Namen innerhalb eines Objekts eindeutig sein sollten und dass sich Software unvorhersehbar verhält, wenn sie es nicht sind; dieses Tool behält den letzten, wie es JSON.parse tut. Der RFC sagt außerdem, dass Software gut zusammenarbeitet, wenn sie nicht mehr Wertebereich oder Genauigkeit erwartet als ein IEEE-754-Double. Dieses Tool behält Zahlen so, wie Sie sie geschrieben haben, doch ein Programm, das eine sehr lange Ganzzahl in ein Double einliest, rundet sie. Ganzzahlen zwischen -(2^53)+1 und (2^53)-1 sind exakt.

Besser: die API nach strukturierter Ausgabe fragen

Reparieren ist ein Notbehelf. Die Modell-APIs können die Ausgabe auf ein Schema beschränken, und die drei Anbieter dokumentieren das unterschiedlich.

• OpenAI: Structured Outputs lässt das Modell Antworten erzeugen, die Ihrem JSON Schema entsprechen, während der JSON-Modus nur gültiges JSON garantiert. Eine Ablehnung (Refusal) muss dem Schema nicht folgen, und eine Antwort, die das maximale Token-Limit erreicht, ist unvollständig (Status incomplete, Grund max_output_tokens).
• Anthropic: Structured Outputs verwenden Constrained Decoding, damit die Antwort Ihrem Schema folgt, und laut Dokumentation gilt das in den meisten Fällen. Eine Ablehnung (stop_reason refusal) oder eine durch max_tokens abgeschnittene Antwort entspricht dem Schema womöglich nicht, prüfen Sie also stop_reason vor dem Parsen.
• Google Gemini: Das Modell wird so konfiguriert, dass es JSON erzeugt, das dem angegebenen Schema entspricht. Inhaltliche Korrektheit ist nicht garantiert, validieren Sie die Werte also, und manche Einschränkungen wie minLength und maxLength werden nicht durchgesetzt.

Keiner der drei Anbieter verspricht gültiges JSON, wenn die Ausgabe abgeschnitten wird. Prüfen Sie, warum das Modell angehalten hat, bevor Sie einem geparsten Ergebnis vertrauen.