Structured Output: Was ist Structured Output?

Structured Output bedeutet, dass ein Sprachmodell seine Antwort in einer fest vorgegebenen Datenform liefert, meist als JSON nach einem Schema. So kann eine andere Software die Antwort ohne Nacharbeit weiterverarbeiten.

Ein Sprachmodell schreibt von Natur aus freien Text. Das ist gut für einen Chat, aber schlecht für eine Buchhaltungssoftware, die aus einer Rechnung Betrag, Datum und Lieferant übernehmen soll. Sie braucht feste Felder in fester Form. Genau das liefert Structured Output.

Woher der Begriff stammt

Früher bat man das Modell im Prompt, in einem bestimmten Format zu antworten. Das klappte meistens, aber nicht immer. Mal fehlte ein Feld, mal stand ein erklärender Satz vor den Daten. Jede Anwendung brauchte deshalb Prüfungen und Wiederholungen.

Die Anbieter führten zuerst einen JSON-Modus ein, der nur gültiges JSON garantierte. 2024 folgte bei OpenAI Structured Outputs, später bei Anthropic eine entsprechende Funktion für Claude. Beide versprechen, dass die Antwort dem vorgegebenen Schema folgt.

Was Structured Output genau tut

Sie beschreiben vorab, wie die Antwort aussehen soll. Das geschieht mit einem JSON-Schema, einer Art Bauplan: Welche Felder gibt es, welche sind Pflicht, welcher Typ steht in welchem Feld.

Das Modell erzeugt seine Antwort dann unter diesem Zwang. Anthropic beschreibt das Verfahren als eingeschränkte Dekodierung: Bei jedem Schritt sind nur Zeichen erlaubt, die zum Schema passen. Laut Anthropic ergibt das immer gültiges JSON, garantierte Feldtypen und Pflichtfelder und keine Wiederholungen wegen Formfehlern.

Ein Beispiel für eine Anfrage aus dem Kontaktformular:

Name: Text
E-Mail: Text
Anliegen: eine von vier festen Kategorien
Rückruf gewünscht: ja oder nein

Abgrenzung zu ähnlichen Begriffen

Function Calling: Beim Function Calling ruft das Modell ein Werkzeug auf und füllt dessen Eingaben aus. Structured Output legt die Form der eigentlichen Antwort fest. Anthropic bietet für Werkzeuge eine strenge Variante an, die auch deren Eingaben gegen das Schema prüft.

JSON-Modus: Er sichert nur gültiges JSON, nicht die richtigen Felder.

KI-Halluzination: Structured Output verhindert Formfehler, keine inhaltlichen Fehler. Ein Modell kann ein Feld korrekt befüllen und trotzdem einen falschen Wert eintragen.

Was das für Ihr Unternehmen bedeutet

Structured Output ist die Grundlage, wenn KI nicht nur Texte schreibt, sondern Daten in Ihre Systeme liefert. Typische Einsätze:

Rechnungen, Lieferscheine oder Formulare auslesen
E-Mails nach Anliegen sortieren und Felder für das CRM füllen
Angebote oder Berichte in eine feste Struktur bringen

Das spart Nacharbeit und macht Abläufe stabiler. Wie wir Daten aus Dokumenten automatisch erfassen, zeigen wir auf der Seite zur Dokumentenverarbeitung.

Grenzen dessen, was man sicher weiß

Die Anbieter unterstützen nicht jede Möglichkeit von JSON-Schema. Anthropic listet etwa Zahlengrenzen und Längenvorgaben für Texte als nicht unterstützt. Solche Prüfungen müssen dann in der eigenen Software erfolgen.

Ob ein starres Schema die inhaltliche Qualität der Antworten beeinflusst, ist nicht abschließend geklärt. Bei schwierigen Aufgaben lohnt es sich, Ergebnisse mit und ohne Schema zu vergleichen.

Häufig gestellte Fragen

Ist eine Antwort mit Structured Output automatisch richtig?

Nein. Structured Output sorgt dafür, dass die Form stimmt, also alle Felder vorhanden sind und den richtigen Typ haben. Ob der Inhalt stimmt, etwa der ausgelesene Betrag einer Rechnung, prüft es nicht. Dafür braucht es weitere Kontrollen.

Was ist der Unterschied zum JSON-Modus?

Der ältere JSON-Modus stellt nur sicher, dass gültiges JSON herauskommt. Structured Output stellt zusätzlich sicher, dass das JSON Ihrem Schema folgt. OpenAI schreibt dazu, dass beide gültiges JSON erzeugen, aber nur Structured Outputs die Einhaltung des Schemas sicherstellen.

Gibt es Fälle, in denen das Schema trotzdem nicht eingehalten wird?

Ja, wenige. Anthropic nennt etwa Antworten, bei denen das Modell eine Anfrage ablehnt, und Antworten, die wegen einer zu niedrigen Längengrenze abbrechen. Eine Anwendung sollte solche Fälle erkennen und abfangen.

Structured Output