Überblick
Die Grundlagen sagen, was ein guter Prompt enthält. Die folgenden Techniken sagen, wie sich diese Bestandteile für bestimmte Aufgabentypen kombinieren lassen. Jede Technik hat einen spezifischen Anwendungsfall, einen spezifischen Fehlermodus und einen spezifischen Token Aufwand. Zu wissen, wann welche Technik passt, ist der Großteil des Handwerks.Zero Shot Prompting
Direkt fragen, ohne Beispiele. Geeignet für einfache, gut bekannte Aufgaben.
Few Shot Prompting
Zwei bis fünf Beispiele in den Prompt einbauen. Geeignet für Formatierung und Klassifikation.
Chain of Thought
Das Modell schrittweise denken lassen. Geeignet für Mathematik, Logik und mehrstufige Entscheidungen.
Role Prompting
Eine Rolle oder Expertise zuweisen. Geeignet für Tonalitätskontrolle und domänenspezifische Aufgaben.
Prefilling
Die Antwort des Modells für es beginnen. Geeignet, um Format zu erzwingen und Vorreden zu vermeiden.
Prompt Chaining
Eine schwierige Aufgabe auf mehrere Prompts aufteilen. Geeignet für lange Workflows und komplexe Pipelines.
Zero Shot Prompting
Zero Shot ist der Standardmodus: Die Aufgabe wird beschrieben, das Modell führt sie ohne Beispiele aus. Moderne instruction tuned Modelle sind erstaunlich stark im Zero Shot bei Aufgaben, die in ihren Trainingsdaten häufig vorkamen: Zusammenfassung, Übersetzung, Sentiment Klassifikation, einfache Extraktion, einfaches Reasoning.Few Shot Prompting
Few Shot Prompting bindet zwei bis fünf Beispiele aus Eingabe und Ausgabe direkt in den Prompt ein. Das Modell schließt das Muster aus den Beispielen und wendet es auf die neue Eingabe an. Few Shot ist besonders stark bei:- Klassifikation mit eigenen Labels. Wenn die Taxonomie nicht standardisiert ist, sind Beispiele schneller als prosaische Beschreibungen.
- Formaterzwingung. Wenn die Ausgabe einer präzisen Struktur folgen muss, ist ein Beispiel mehr wert als mehrere Absätze Erklärung.
- Style Transfer. Wenn eine bestimmte Stimme erforderlich ist, fangen zwei gut gewählte Beispiele sie besser ein als Adjektive.
Chain of Thought
Chain of Thought, oft mit CoT abgekürzt, ist die Technik, das Modell vor der Antwort sein Reasoning produzieren zu lassen. Der Effekt ist groß, gut dokumentiert und überdauert mehrere Modellgenerationen. Schon die einfache Anweisung „Let’s think step by step“ erzeugt eine messbare Verbesserung bei Reasoning Aufgaben. Die einfachste Form ist Zero Shot CoT:- CoT bei mehrstufigen Aufgaben. Mathematik, Multi Hop Reasoning, Planung, Debugging.
- Kein CoT bei Retrieval oder einfacher Klassifikation. Es kostet Token und hilft selten.
- Moderne Reasoning Modelle machen CoT intern. Die neuesten reasoning orientierten Modelle denken standardmäßig vor der Antwort. „Think step by step“ einem Reasoning Modell hinzuzufügen ist redundant und manchmal kontraproduktiv.
- Reasoning von Antwort trennen. Stets festlegen, wie die finale Antwort geliefert wird, damit sie geparst werden kann, ohne das Reasoning mitzuparsen.
Role Prompting
Eine Rolle zu Beginn des Prompts zu setzen, üblicherweise in der System Nachricht, fokussiert Stimme, Vokabular und Wissenstiefe des Modells für die gesamte Konversation. Role Prompting gehört zu den Techniken mit dem höchsten Hebel zur Verhaltenssteuerung, weshalb jeder PANTA OS Assistent mit einer klar definierten Rolle in seinem System Prompt startet.- Konkret bei der Expertise sein. „Du bist Experte“ ist generisch. „Du bist klinischer Pharmazeut mit zwanzig Jahren Erfahrung in der Onkologie“ ist steuerbar.
- Die Zielgruppe einschließen. Die Rolle definiert nicht nur, wer produziert, sondern auch, für wen.
- Die Grenze nennen. „Deine Aufgabe ist X, nicht Y“ verhindert die häufigste Drift, bei der das Modell angrenzende Verantwortungen übernimmt.
- Kurz halten. Zwei bis vier Sätze reichen. Längere Rollen bringen Widersprüche mit sich.
Prefilling
Prefilling ist die Technik, die Antwort des Modells selbst zu beginnen, sodass das Modell von dort weiterschreibt. Eine starke, aber unterschätzte Methode, um Format zu erzwingen und unerwünschte Vorreden zu überspringen. Wenn die API es unterstützt, eine Assistant Nachricht mit dem gewünschten Anfang senden. Das Modell setzt von dort fort.{ beginnt, sodass das Modell mit dem JSON Objekt fortfährt, statt eine Vorrede wie „Hier sind die extrahierten Informationen:“ zu schreiben.
Die häufigsten Anwendungen von Prefilling:
- JSON Ausgabe erzwingen. Mit
{prefillen, sodass das Modell auf eine JSON Antwort festgelegt ist. - Eine bestimmte Struktur erzwingen. Mit
<analysis>prefillen, sodass das Modell innerhalb des Tags fortfährt. - Ein Ablehnungsmuster erzwingen. Mit „Ich kann nicht helfen mit“ prefillen, um zu einer Ablehnung zu bewegen.
- Im Charakter bleiben. Mit dem Charakternamen prefillen, um einen Roleplay Assistenten in der Stimme zu halten.
Prompt Chaining
Wenn eine Aufgabe für einen einzelnen Prompt zu komplex ist, sollte sie in eine Kette von Prompts aufgeteilt werden, bei der die Ausgabe des einen die Eingabe des nächsten ist. Chaining nutzen, wann immer ein einzelner Prompt mehr als zwei klar getrennte Stufen hätte, weil jede Stufe so die volle Aufmerksamkeit des Modells bekommt, statt mit den anderen zu konkurrieren. Eine typische Kette hat drei Stufen:- Extraktion. Die relevanten Informationen aus der Quelle ziehen.
- Transformation. Die Logik, Klassifikation oder Analyse auf die extrahierten Informationen anwenden.
- Komposition. Das Ergebnis für das Ziel formatieren.
