Warum Struktur zählt
Je länger ein Prompt wird, desto wichtiger wird seine Struktur. Ein 200 Token Prompt kann unstrukturiert sein und trotzdem funktionieren. Ein 2000 Token Prompt mit gemischten Anweisungen, Kontext, Beispielen und Eingaben wird fast garantiert schlechtere Ergebnisse liefern, sofern seine Teile nicht klar abgegrenzt sind. Struktur leistet drei Dinge gleichzeitig. Sie macht den Prompt parsbar für das Modell, sodass es Anweisungen von Daten unterscheiden kann. Sie macht den Prompt lesbar für das Team, sodass er über die Zeit gepflegt werden kann. Und sie macht die Ausgabe parsbar für den Code, sodass das Ergebnis verlässlich extrahiert werden kann. In PANTA OS hat jeder Assistent einen System Prompt, der von der hier beschriebenen Struktur profitiert. Je länger der System Prompt, desto wichtiger die Struktur.XML Tags
XML Tags sind das flexibelste Strukturwerkzeug, weil sie verschachtelt, frei benannt und einfach geparst werden können. Die meisten modernen Modelle wurden umfangreich auf XML markierten Prompts trainiert und reagieren besonders gut darauf. Es gibt keinen kanonischen Satz von Tag Namen. Namen wählen, die beschreiben, was sie enthalten, und konsistent über die Prompts hinweg verwenden.- Konsistente Tag Namen verwenden. Wenn etwas einmal
<context>heißt, später nicht<background>nennen. Konsistenz reduziert das Risiko von Fehlinterpretationen. - Verschachteln, wo die Struktur eine natürliche Hierarchie hat. Mehrere Dokumente in ein
<documents>Tag, jedes als<document>mit einem index Attribut. - Tags in den Anweisungen namentlich referenzieren. „Anhand des Vertrags in den
<contract>Tags oben identifiziere …“ ist klarer als „Anhand des Vertrags oben identifiziere …“.
JSON Output Verträge
Wenn die Ausgabe von Code geparst wird, gehört das Schema in den Prompt. Es gibt drei Wege, in steigender Verlässlichkeit. Der erste ist eine prosaische Beschreibung des Schemas:Anatomie eines System Prompts
Der System Prompt ist der Ort für alles, was über die gesamte Konversation hinweg gelten soll: Rolle, Regeln, Constraints, Format Erwartungen. Ein sauberer System Prompt hat etwa sechs Abschnitte, in dieser Reihenfolge:- Rolle und Identität. Wer der Assistent ist, welche Expertise er hat, mit wem er spricht.
- Kernverantwortungen. Die Aufgaben, die der Assistent ausführen soll.
- Verhaltensregeln. Wie der Assistent kommunizieren soll: Tonalität, Formalität, Länge, Sprache.
- Constraints und Ablehnungen. Was der Assistent nicht tun darf, und was zu tun ist, wenn er gefragt wird.
- Output Format. Das Standardformat für Antworten.
- Beispiele (optional). Zwei oder drei kurze Interaktionen, die die Regeln demonstrieren.
Reihenfolge der Elemente
Innerhalb eines Prompts zählt die Reihenfolge mehr, als oft angenommen wird. Recency Bias bei Modellen ist gut dokumentiert: Anweisungen, die ganz am Ende eines Prompts stehen, werden tendenziell zuverlässiger befolgt als Anweisungen in der Mitte. Einige praktische Leitlinien:- Rolle und Kernregeln nach oben. Sie definieren den Rahmen.
- Langer Kontext in die Mitte. Dokumente, Transkripte, Beispiele.
- Die unmittelbare Aufgabe ans Ende. „Produziere nun, gegeben das obige Dokument, …“ sollte das Letzte sein, was das Modell vor der Generierung liest.
Trennzeichen für Eingaben
Eingaben immer klar abgrenzen. Die häufigsten Optionen, in der Reihenfolge der Bevorzugung:- XML Tags.
<document>...</document>. Am flexibelsten und über moderne Modelle hinweg am besten unterstützt. - Triple Backticks.
.... Standard für Code und unstrukturierten Text. - Triple Quotes.
"""...""". Der klassische Trenner, weiterhin funktional. - Markdown Überschriften.
# Documentgefolgt vom Inhalt. Weniger präzise, aber lesbar.
