Zuletzt aktualisiert: 2026-06-22

Das Kontextfenster erklärt

Das Kontextfenster ist die maximale Anzahl von Token, die ein großes Sprachmodell (LLM) in einem einzelnen Aufruf verarbeiten kann; gezählt werden sowohl die gelesene Eingabe als auch die erzeugte Ausgabe. Eine Anfrage passt, wenn die Eingabe zusammen mit den für die Antwort reservierten Token innerhalb dieser Grenze bleibt. Da das Fenster für ein gegebenes Modell fest ist, bedeutet die Planung eines Aufrufs, dessen Bestandteile gegen diese Obergrenze zu budgetieren.

Das Budget

Die Eingabe eines einzelnen Aufrufs ist die Summe aus System-Prompt, dem erneut gesendeten bisherigen Gesprächsverlauf und der aktuellen Nutzernachricht. Wird Platz für die Antwort reserviert, ergibt sich die Gesamtmenge, die das Fenster fassen muss:

Dabei ist $W$ das Kontextfenster und $n_{out}$ die reservierte Ausgabe. Die Auslastung ist der Anteil des Fensters, den die Anfrage belegt:

Ein negativer Wert $n_{rem}$ bedeutet, dass die Anfrage das Fenster überschreitet und in dieser Zusammensetzung nicht ausgeführt werden kann.

Rechenbeispiel

Betrachtet wird eine Anfrage mit einem System-Prompt von 800 Token, 6000 Token Verlauf und einer Nutzernachricht von 1200 Token, mit 2000 für die Antwort reservierten Token, gegen ein Fenster von 128.000 Token:

Die Anfrage benötigt 10.000 Token und lässt 118.000 frei, was etwa 7,8 % des Fensters entspricht. Es besteht reichlich Spielraum: Der Verlauf könnte um ein Vielfaches wachsen, bevor das Fenster zur bindenden Beschränkung wird.

Verhalten bei Überlauf

Übersteigt die Gesamtmenge das Fenster, kürzen Anbieter nicht stillschweigend in einer vom Aufrufer kontrollierten Weise; der Aufruf wird abgewiesen oder der älteste Kontext wird verworfen, was in beiden Fällen das Ergebnis verschlechtert. Besondere Sorgfalt verdient die reservierte Ausgabe: Füllt die Eingabe das Fenster nahezu aus, bleibt dem Modell wenig Raum zum Antworten, und die Antwort kann mitten in der Erzeugung abgeschnitten werden. Eine explizite Reservierung der Ausgabe verhindert, dass eine zwar passende Eingabe zu einer abgeschnittenen Antwort führt.

Anwendung

Das Fenster ist eine harte Grenze, getrennt von den Kosten, die mit den genutzten Token skalieren. Der Verlauf ist meist der größte und am stärksten komprimierbare Bestandteil, sodass das Einpassen eines langen Gesprächs in der Regel bedeutet, ihn zusammenzufassen oder zu kürzen, den System-Prompt zu verkürzen, die reservierte Ausgabe zu verringern oder zu einem Modell mit größerem Fenster zu wechseln. Um die Eingabe aus einer Zielwortzahl zu dimensionieren, lässt sich mit Rechner für Token in Wörter umrechnen; um zu sehen, wie der erneut gesendete Verlauf über viele Runden sowohl das Fenster als auch die Rechnung in die Höhe treibt, siehe Rechner zum Kostenwachstum durch Kontext.