Context Window (Kontextfenster).

Gemessen wird nicht in Zeichen oder Wörtern, sondern in Token. Ein Token ist ein Textbaustein, den das Modell als kleinste Einheit verarbeitet: mal ein ganzes kurzes Wort, mal eine Silbe, mal ein Satzzeichen. Als grobe Faustregel entsprechen tausend Token etwa siebenhundert Wörtern englischem Text; für Deutsch liegt der Wert wegen der langen Komposita und Umlaute niedriger, ein deutscher Text braucht also mehr Token als eine englische Übersetzung gleicher Länge. Wichtig ist die Konsequenz: Alles, was in einer Anfrage steckt, konkurriert um denselben Platz, und die Antwort braucht ebenfalls Raum darin.

Die technischen Grössen sind 2026 kein Engpass mehr. Verbreitete Modelle bewegen sich zwischen etwa zweihunderttausend und einer Million Token, einzelne Anbieter nennen noch höhere Werte. Der praktisch wichtigere Befund kommt aus unabhängigen Untersuchungen: Die verlässlich nutzbare Länge liegt deutlich unter der beworbenen. Je voller das Fenster, desto häufiger werden Angaben übersehen, besonders solche in der Mitte langer Eingaben. Für die Praxis heisst das, dass ein grosses Fenster kein Ersatz für Auswahl ist. Relevantes Material an der richtigen Stelle schlägt viel Material in beliebiger Reihenfolge.

Dazu kommt die Kostenseite, die gern übersehen wird. Abgerechnet wird pro Token in beide Richtungen, und in einem Gespräch wird der bisherige Verlauf bei jeder Runde erneut mitgeschickt. Ein Chat, der eine sechzigseitige Anlage im Kontext hält, bezahlt diese Anlage bei jeder einzelnen Nachfrage neu, und die Antwortzeit wächst mit. Gegenmittel sind Zwischenzusammenfassungen des Verlaufs, das Zwischenspeichern gleichbleibender Anweisungen, wo der Anbieter es unterstützt, und vor allem der Verzicht darauf, vorsorglich alles mitzugeben, was man hat.

Ein Anwendungsfall macht die Regel greifbar: Ein Unternehmen möchte einen Assistenten auf ein vierhundertseitiges Handbuch setzen. Der naive Weg ist, das ganze Handbuch in jede Anfrage zu legen. Er funktioniert technisch, kostet aber bei jeder Frage ein Vielfaches und liefert schlechtere Antworten, weil die relevante Passage in der Masse untergeht. Der übliche Weg ist Retrieval: Das Handbuch wird in Abschnitte zerlegt, pro Frage werden die passenden fünf bis zehn Abschnitte herausgesucht und nur diese in den Kontext gelegt. Das Fenster bleibt frei für das Denken statt für den Ballast.