Was ist ein Kontextfenster?
Context Window
Das Kontextfenster ist die maximale Textmenge, die ein Sprachmodell bei einer einzelnen Anfrage gleichzeitig berücksichtigen kann, gemessen in Tokens. In dieses Budget müssen Systemanweisung, bisheriger Gesprächsverlauf, Anhänge und die Antwort selbst gemeinsam hineinpassen.
Wenn ein Assistent den Anfang eines langen Gesprächs vergisst oder ein Dokument abschneidet, liegt das fast immer an dieser Grenze und nicht an einem Fehler.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
- Gemessen in
- Tokens
- Enthält
- Systemprompt, Verlauf, Anhänge und Antwort
- Merkbar bei
- Langen Verträgen, Protokollen, Chatverläufen
- Verwechselt mit
- Dem Gedächtnis des Assistenten
Was alles im Kontextfenster steht
Ein Sprachmodell hat kein Gedächtnis zwischen zwei Anfragen. Die Anwendung schickt bei jeder neuen Nachricht alles, was das Modell wissen soll, erneut mit, und das alles teilt sich dasselbe Budget:
-
Systemanweisung
Die Vorgaben des Anbieters oder deines Unternehmens, die du im Chat meist gar nicht siehst.
-
Werkzeugbeschreibungen
Kann der Assistent suchen, rechnen oder auf andere Systeme zugreifen, steht die Beschreibung jedes Werkzeugs ebenfalls im Fenster.
-
Gesprächsverlauf
Jede frühere Frage und jede frühere Antwort im selben Chat.
-
Anhänge und Suchergebnisse
Hochgeladene Dokumente, eingefügte Texte und Webseiten, die der Assistent für dich abgerufen hat.
-
Denkschritte
Reasoning-Modelle schreiben vor der Antwort interne Zwischenschritte, die je nach Modell ebenfalls Platz belegen.
-
Die Antwort
Auch der Text, den das Modell gerade erzeugt, muss noch ins Fenster passen.
Wenn ein Werkzeug bei langen Eingaben plötzlich nur noch kurze Antworten liefert oder frühere Absprachen ignoriert, ist meistens schlicht kein Platz mehr frei.
Tokens statt Zeichen und Seiten
Ein Modell verarbeitet keine Wörter, sondern Tokens, also Wortbestandteile. Kurze englische Alltagswörter sind oft ein einziges Token, deutsche Komposita wie Betriebsvereinbarung zerfallen in mehrere. Für dieselbe Aussage braucht ein deutscher Text deshalb in der Regel mehr Tokens als ein englischer, und ein Vertragsanhang füllt das Budget schneller, als die Seitenzahl vermuten lässt.
Wie groß das Fenster ist, hängt vom Modell ab. Aktuelle große Modelle verarbeiten bis zu einer Million Tokens in einer Anfrage, kleinere und lokal betriebene Modelle oft deutlich weniger. In Chat-Oberflächen steht dir außerdem nicht unbedingt das volle Fenster des Modells zur Verfügung, weil der Anbieter es je nach Tarif begrenzt. Wie viele Tokens ein Text genau belegt, zeigen die Tokenzähler in den Entwicklerwerkzeugen der Anbieter.
Was beim Überlaufen passiert
Die Werkzeuge gehen unterschiedlich damit um. Manche brechen mit einer Fehlermeldung ab, was der ehrlichste Fall ist. Andere schneiden stillschweigend die ältesten Nachrichten weg, wieder andere fassen den bisherigen Verlauf automatisch zusammen und arbeiten mit der Zusammenfassung weiter. In den letzten beiden Fällen bekommst du keine Warnung, sondern nur schlechtere Antworten.
Dazu kommt ein Effekt, der schon lange vor der Grenze einsetzt: Angaben in der Mitte einer sehr langen Eingabe werden weniger zuverlässig aufgegriffen als Angaben am Anfang und am Ende. Forschende haben das unter dem Namen „Lost in the Middle“ beschrieben. Ein riesiges Kontextfenster ist deshalb keine Garantie dafür, dass auch alles darin beim Modell ankommt.
Kontextfenster, Ausgabelimit und Nutzungslimit
Drei Grenzen werden im Alltag oft durcheinandergeworfen, obwohl sie sich unterschiedlich bemerkbar machen:
| Grenze | Was sie begrenzt | Woran du sie merkst |
|---|---|---|
| Kontextfenster | Eingabe und Ausgabe einer Anfrage zusammen | Fehlermeldung, vergessene Absprachen, gekürzter Verlauf |
| Ausgabelimit | Länge einer einzelnen Antwort | Antwort bricht mitten in Satz, Tabelle oder Code ab |
| Nutzungslimit | Anzahl oder Umfang der Anfragen pro Zeitraum | Sperre bis zum nächsten Zeitfenster oder Hinweis auf den Tarif |
Bei der Nutzung über eine Schnittstelle kommt der Preis dazu: Abgerechnet wird je Token, und weil der gesamte Verlauf bei jeder Nachricht erneut gesendet wird, wird jede weitere Frage in einem langen Chat teurer als die vorherige.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Kontextfenster und was oft damit gleichgesetzt wird
Manche Werkzeuge speichern Notizen über dich dauerhaft außerhalb des Chats und legen sie bei Bedarf in das Fenster. Das ist eine Funktion der Anwendung, nicht des Modells, und es vergrößert das Kontextfenster nicht, sondern belegt einen Teil davon.
Trainingsdaten sind das, was ein Modell einmal gelernt hat und dauerhaft in seinen Gewichten trägt. Das Kontextfenster ist das, was es in genau dieser Anfrage vor sich hat. Was du in den Chat schreibst, verändert das Modell nicht.
RAG umgeht die Grenze, statt sie zu erweitern: Ein Suchsystem holt aus einem großen Bestand nur die passenden Abschnitte und legt diese in das Fenster. So lassen sich Tausende Dokumente befragen, obwohl nur wenige davon gleichzeitig hineinpassen.
KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Ein großes Fenster löst das Problem nicht von allein
Der häufigste Fall im Alltag ist der lange Chat. Nach einer Stunde Hin und Her ist der Verlauf so groß, dass frühe Absprachen aus dem Budget fallen, und der Assistent widerspricht plötzlich dem, was oben vereinbart war. Der alte Verlauf zieht die Antworten außerdem inhaltlich in die vorherige Richtung. Statt weiter zu diskutieren, lässt du den Stand in wenigen Sätzen zusammenfassen und beginnst damit einen neuen Chat.
Gib den Ausschnitt statt des ganzen Dokuments. Drei relevante Absätze aus dem Handbuch führen verlässlicher zum Ziel als das komplette Handbuch, in dem der entscheidende Satz irgendwo in der Mitte steht. Wenn eine Angabe entscheidend ist, gehört sie in die Anweisung und nicht in Anhang drei.
Und wiederhole zentrale Vorgaben am Ende der Eingabe, kurz vor der eigentlichen Aufgabe. Was direkt vor der Frage steht, wird zuverlässiger befolgt als eine Vorgabe, die zwanzig Nachrichten zurückliegt. Bricht eine lange Tabelle oder ein langer Text ab, helfen mehrere kleine Teilaufgaben mehr als die Bitte, sich kurz zu fassen.
Kontextfenster lernen
Wie du lange Vorgänge sinnvoll aufteilst, statt einen Chat endlos wachsen zu lassen, zeigen die Kurse zum wirksamen Umgang mit Chatbots.
Wenn du zum ersten Mal ernsthaft mit einem Chatbot arbeitest, sind die Grundlagenkurse für den Einstieg in KI-Tools der passende Start.
Kurse, die Kontextfenster behandeln
- Large Language Model Strategie: Alles für Entscheider
- Prompt Engineering Grundkurs: Systematisch bessere Ergebnisse
- LLM-Dokumentenanalyse und Pipelines Grundkurs
- LLM Self-Hosting und Deployment
Weitere Kurse aus diesem Bereich
Häufige Fragen
Warum vergisst der Chat, was ich am Anfang geschrieben habe?
Ist ein größeres Kontextfenster immer besser?
Zählt ein hochgeladenes PDF gegen das Kontextfenster?
Kann ich das Kontextfenster vergrößern?
Passt thematisch dazu
Bessere Antworten entstehen oft nicht durch eine geschicktere Frage, sondern dadurch, dass du lernst, den Inhalt des Kontextfensters gezielt zusammenzustellen.
Wer Sprachmodelle über eine Schnittstelle nutzt, kann die Tokenkosten langer Verläufe in den Griff bekommen, ohne auf ein schwächeres Modell auszuweichen.
Deine Ansprechpartner
Du willst das Thema nicht nur nachschlagen, sondern anwenden können? Wir beraten dich persönlich und kostenlos.
Yves Hoppe
Weiterbildung & Beratung
Ordnet mit dir ein, welcher Kurs zu deinem Vorwissen passt.
Norbert Jansen
Beratung & Inhouse
Plant Inhouse-Trainings, die an euren eigenen Daten und Abläufen ansetzen.
Kontextfenster im Kurs statt im Lexikon
Nachschlagen bringt dich bis zum Verstehen. Anwenden lernst du an echten Aufgaben.