TOON fragt, warum strukturierter AI-Kontext immer wie eine API aussehen muss

Meine These
Wenn strukturierte Daten Teil eines Prompts werden, ist Syntax nicht mehr nur Geschmack: Jede wiederholte Klammer und jeder Feldname verbraucht Kontext, Geld und Aufmerksamkeit des Modells.

01 / Format

JSON-Daten ohne den größten Teil der JSON-Zeremonie

TOON bildet Objekte, Arrays und primitive Werte des JSON-Datenmodells deterministisch und verlustfrei ab. Einrückung ersetzt viele Klammern, Strings werden nur bei Bedarf gequotet und gleichförmige Objekt-Arrays werden zu Tabellen mit einmalig deklarierten Spalten.

Für lange Listen ist das besonders wirkungsvoll: Statt bei jedem Datensatz dieselben Keys zu wiederholen, stehen Feldnamen im Header und darunter nur die Werte. Das bleibt lesbar und reduziert die Tokenmenge, die an ein Modell gesendet wird.

Verlustfreier Round-trip zum JSON-Datenmodell
Tabellarische Darstellung homogener Objekt-Arrays
Explizite Längen und Feldlisten als strukturelle Guardrails

02 / Zuverlässigkeit

Kompakt ist nur nützlich, wenn Fehler erkennbar bleiben

Array-Header wie `[N]{fields}` sagen dem Modell, wie viele Zeilen und welche Spalten erwartet werden. Der Strict Mode des Decoders prüft unter anderem Anzahl, Einrückung und Escaping. Abgeschnittene oder strukturell falsche Ausgaben können dadurch sichtbar scheitern statt still falsch geparst zu werden.

Das macht TOON interessant für kontrollierte LLM-Ausgaben. Trotzdem bleibt Schema-Validierung auf Anwendungsebene nötig: Ein syntaktisch gültiges Datum kann fachlich unmöglich und eine vorhandene ID frei erfunden sein.

03 / Benchmarks

Der Tokenvorteil hängt an der Form der Daten

Die Projektbenchmarks berichten bei gemischten Strukturen deutliche Einsparungen und ähnliche oder leicht bessere durchschnittliche Fragegenauigkeit als JSON. In einzelnen Modell- und Datensatzkombinationen liegen jedoch JSON, XML, YAML oder CSV vorn. Der Vorteil ist kein Naturgesetz.

TOON glänzt bei großen, gleichförmigen Arrays. Tief verschachtelte, unregelmäßige Objekte bieten weniger Wiederholung zum Entfernen. Teams sollten deshalb eigene Daten, Tokenizer und Zielmodelle messen, statt eine globale Prozentzahl zu übernehmen.

04 / Einsatz

Promptformat und Austauschformat müssen nicht dasselbe sein

JSON bleibt das universell unterstützte Format für APIs, Logs und Speicherung. TOON kann gezielt an der Modellgrenze eingesetzt werden: intern JSON halten, für den Prompt kodieren und Modellantworten streng zurückdekodieren.

Dieser begrenzte Einsatz vermeidet einen unnötigen Plattformumbau. TOON wird dann zu einer Optimierung der Context Pipeline — ähnlich wie Kompression, nur mit einer Syntax, die das Modell weiterhin direkt lesen soll.

Kurzfazit

Eine kluge Spezialisierung für teuren Modellkontext

TOON nimmt strukturierten Promptdaten gezielt syntaktische Wiederholung. Bei passenden Tabellenstrukturen kann das Kosten und Kontextverbrauch senken, ohne die Daten in ein unlesbares Binärformat zu verwandeln.

Interessant für: AI-Anwendungen, die große oder wiederkehrende strukturierte Datensätze in Prompts und Modellantworten transportieren.
Im Blick behalten: Vorteile müssen mit eigenen Daten und Modellen gemessen werden; TOON ergänzt JSON an der LLM-Grenze, ersetzt dessen Ökosystem nicht pauschal.