Der Prompt

Zuerst die einfache Antwort

Ein Prompt ist das, was Sie eintippen. „Fasse mir diesen Text zusammen”, „Schreib mir eine Antwort auf diese E-Mail”, „Erklär mir das für ein Kind”. Sie schreiben etwas, das Modell antwortet darauf. So begegnet einem der Begriff zuerst, und für den Anfang reicht das.

Warum die einfache Antwort zu kurz greift

Wenn Sie in ChatGPT eine Frage stellen, kommt beim Modell mehr an als Ihre Frage. Davor steht, für Sie unsichtbar, noch einiges:

1. SystemanweisungRolle, Grenzen, TonAnbieter
2. Werkzeugbeschreibungenwas das Modell aufrufen darfAnbieter
3. Gesprächsverlaufalles bisher Gesagteentsteht
4. Dokumente und KontextMaterial zur AufgabeSie oder eine Suche
5. Ihre Nachrichtdie eigentliche AnweisungSie

Für das Modell ist das ein einziger Text, nicht fünf Felder.

Ihre Nachricht steht ganz unten. Sie heißt Nutzereingabe oder User-Prompt und ist der Teil, den Sie beeinflussen. Sie ist nicht der ganze Prompt.

Die genaue Antwort

Ein Prompt ist alles, was das Modell sieht, bevor es das nächste Token wählt. Alle Bausteine von oben zusammen, hintereinander als ein einziger Text. Der Teil, den Sie tippen, ist einer davon:

1. SystemanweisungRolle, Grenzen, TonAnbieter
2. Werkzeugbeschreibungenwas das Modell aufrufen darfAnbieter
3. Gesprächsverlaufalles bisher Gesagteentsteht
4. Dokumente und KontextMaterial zur AufgabeSie oder eine Suche
5. Ihre Nachrichtdie eigentliche AnweisungSie

Hervorgehoben: Ihre Nachricht.

Es hilft, sich von der Vorstellung zu lösen, man würde ein Programm bedienen. Ein Modell hat keine Schalter, keine Befehle und keine Einstellungen, die man irgendwo hinterlegt. Es hat ein Kontextfenster, und da liegt Text drin.

Was daraus folgt, gilt für jedes Modell und jeden Anbieter:

Es gibt keinen bevorzugten Kanal. Ihre Anweisung steht im selben Fenster wie das eingefügte Dokument. Für das Modell ist beides Text. Deshalb kann ein angehängtes Dokument eine Anweisung enthalten, die das Modell befolgt, und deshalb gibt es die Angriffsform, die später im Kapitel über Agenten vorkommt.

Was nicht drinsteht, existiert nicht. Ein Modell weiß nicht, was Sie im letzten Chat besprochen haben, welche Datei auf Ihrem Schreibtisch liegt oder welchen Ton Ihre Firma verwendet. Es sei denn, es steht im Fenster.

Der Platz ist begrenzt und kostet. Gemessen wird in Token, wie in Kapitel 03 beschrieben. Jede Zeile Anweisung nimmt Platz weg, den der eigentliche Inhalt braucht.

Diese drei Sätze sind seit dem ersten Sprachmodell wahr und werden es bleiben. Alles Weitere ist Kalibrierung, und Kalibrierung ändert sich. Wie schnell, zeigt der nächste Abschnitt.

Und wie schreibt man nun einen guten?

Das ist eine andere Frage, und sie hat ein eigenes Kapitel bekommen. Der Grund steht schon in diesem: Was ein Prompt ist, ändert sich nicht. Was man sinnvollerweise hineinschreibt, ändert sich mit jeder Modellversion, und zwar schneller, als die meisten Ratgeber nachkommen.

Weiter geht es in Gute Prompts schreiben.

Ein Prompt hat eine Anatomie. Sie ist bei allen Anbietern ähnlich, weil sie sich aus der Funktionsweise ergibt und nicht aus einer Designentscheidung.

Die Teile

Systemanweisung. Steht ganz vorn und beschreibt Rolle, Grenzen und Ton. Bei Chatoberflächen setzt sie der Anbieter, bei eigenen Anwendungen setzen Sie sie. Sie ist kein Sicherheitsmechanismus, sondern der erste Teil desselben Textes.

Kontext. Alles, was das Modell wissen muss und nicht wissen kann: Auszüge aus Dokumenten, Daten, der bisherige Verlauf. Der mit Abstand größte Hebel für Qualität, und der am häufigsten unterschätzte.

Anweisung. Die eigentliche Aufgabe. Je konkreter das Ziel, desto weniger Ablauf muss beschrieben werden.

Beispiele. Ein Beispiel für die gewünschte Ausgabe wirkt bei Formatfragen zuverlässiger als jede Beschreibung. Bei inhaltlichen Fragen weniger, dort verengen Beispiele auch das, was das Modell für zulässig hält.

Ausgabeform. Länge, Struktur, Format. Der Teil, der sich zwischen Modellversionen am stärksten verschoben hat, siehe unten.

Wer welchen Teil setzt

Die Anatomie sagt noch nichts darüber, wer schreibt. Das ist die Frage, an der sich entscheidet, worauf Sie überhaupt Einfluss haben.

Teil	In einer Chatoberfläche	In einer eigenen Anwendung
Systemanweisung	der Anbieter	Sie, einmal, für alle Aufrufe
Werkzeugbeschreibungen	der Anbieter	Sie, je Werkzeug
Kontext	teils Sie, teils eine Suche im Hintergrund	Sie, programmgesteuert
Anweisung	Sie, jedes Mal neu	oft der Anwender Ihrer Anwendung
Ausgabeform	Sie, in Worten	besser über Parameter, siehe Kapitel 05

1. SystemanweisungRolle, Grenzen, TonAnbieter
2. Werkzeugbeschreibungenwas das Modell aufrufen darfAnbieter
3. Gesprächsverlaufalles bisher Gesagteentsteht
4. Dokumente und KontextMaterial zur AufgabeSie oder eine Suche
5. Ihre Nachrichtdie eigentliche AnweisungSie

Hervorgehoben: Systemanweisung.

Daraus folgt eine Unterscheidung, die im Alltag oft verwischt: Systemprompt und Nutzereingabe sind derselbe Text an verschiedenen Stellen. Wer eine Anwendung baut, schreibt den Systemprompt einmal und lebt lange damit. Wer im Chat sitzt, schreibt nur den letzten Teil, dafür jedes Mal neu.

Was jeder Teil an Platz kostet

Alles im Fenster wird in Token gemessen, wie in Kapitel 03 beschrieben, und alles wird bei jedem Aufruf erneut übertragen. Das hat Folgen, die man sieht, sobald eine Anwendung länger läuft:

• Die Systemanweisung zahlen Sie bei jedem Aufruf. Ein Absatz mehr klingt harmlos und ist bei zehntausend Anfragen im Monat eine Position auf der Rechnung.
• Werkzeugbeschreibungen ebenso. Zwanzig angebundene Werkzeuge mit je zehn Zeilen Beschreibung sind ein beachtlicher Sockel, bevor der Anwender ein Wort geschrieben hat.
• Der Gesprächsverlauf wächst. Irgendwann ist das Fenster voll, und dann fällt der Anfang heraus. Das Modell weiß dann nicht mehr, was am Anfang vereinbart wurde, und sagt das nicht.

Für den Betrieb reicht die Vorstellung „ein langer Text” nicht ganz. Drei Eigenschaften dieses Textes haben Folgen, die man kennen sollte, bevor sie im Betrieb auffallen.

Position zählt, nicht nur Inhalt

Ein Modell verarbeitet das Fenster nicht wie eine Liste, in der jeder Eintrag gleich viel wiegt. Anfang und Ende werden zuverlässiger berücksichtigt als die Mitte. Das ist keine Marotte eines Herstellers, sondern in der ganzen Familie dieser Modelle beobachtet und trägt in der Literatur den Namen „lost in the middle”.

Praktisch heißt das:

• Die Aufgabe gehört ans Ende, nicht vor ein langes Dokument. Wer erst vierzig Seiten einfügt und danach fragt, bekommt bessere Antworten als umgekehrt.
• Das Wichtigste aus einem langen Kontext nach vorn oder nach hinten. Was in der Mitte eines großen Dokuments steht, wird am ehesten übersehen.
• Wiederholung am Ende ist kein Stilfehler. Eine Anforderung, die vor 30.000 Token stand, noch einmal zu nennen, ist billiger als eine falsche Antwort.

Was beim Überlaufen passiert

Ist das Fenster voll, wird nicht zusammengefasst, sondern abgeschnitten. Wie, entscheidet die Anwendung, nicht das Modell. Die üblichen Verfahren:

Verfahren	Was passiert	Was man merkt
Ältestes fällt heraus	der Anfang des Gesprächs verschwindet	Vereinbarungen vom Anfang gelten plötzlich nicht mehr
Zusammenfassen	ein Modell fasst den alten Teil zusammen	Details gehen verloren, ohne dass es auffällt
Fenster leeren	das Gespräch beginnt neu	offensichtlich, deshalb das ehrlichste

Die ersten beiden sind gefährlich, weil sie still geschehen. Eine Anwendung, die zusammenfasst, hat einen zweiten Modellaufruf im Rücken, der eigene Fehler machen kann, und niemand sieht die Zusammenfassung.

Anweisung und Inhalt sind nicht getrennt

Das ist die Eigenschaft mit den weitreichendsten Folgen. Es gibt im Fenster keine Markierung, die sagt: Dieser Teil ist eine Anweisung, jener nur Material. Beides ist Text.

Daraus folgt zweierlei.

Fremder Text kann Anweisungen enthalten. Eine Webseite, ein Dokument, eine E-Mail, die ins Fenster gerät, kann Sätze enthalten, die das Modell als Anweisung liest. Das ist die Grundform der Prompt Injection, und sie ist keine Lücke, die sich schließen lässt, sondern eine Eigenschaft der Bauform. Was dagegen hilft, steht im Kapitel über Agenten: nicht bessere Formulierungen, sondern Grenzen außerhalb des Modells.

Ihre eigenen Beispiele wirken wie Anweisungen. Ein Ausgabebeispiel im Prompt zeigt nicht nur das Format, es setzt auch inhaltlich einen Rahmen. Wer drei Beispiele mit jeweils kurzen Antworten einfügt, bekommt kurze Antworten, auch wo eine lange richtig wäre.

Grenzen, die kein Prompt verschiebt

Zum Schluss drei Dinge, die sich hartnäckig als Prompting-Problem tarnen und keines sind:

Fehlende Information. Wenn die Antwort eine Zahl braucht, die nirgends im Fenster steht, hilft keine Formulierung. Das ist der Fall für das Nachschlagen aus einer Wissensbasis, das im Kapitel über RAG vorkommt.

Vermischung von Anweisung und Inhalt. Sobald fremder Text ins Fenster gerät, etwa eine Webseite oder eine Datei, kann darin eine Anweisung stehen. Das Modell unterscheidet nicht zuverlässig, weil beides Text im selben Fenster ist. Kein Prompt löst das vollständig, das gehört in den Aufbau des Systems und ins Kapitel über Agenten.

Nicht entscheidbare Aufgaben. Wenn zwei Fachleute die richtige Antwort unterschiedlich beurteilen, wird ein Modell sie nicht besser treffen. Dann fehlt keine Anweisung, sondern eine Entscheidung.