Eingabegrenze pro Anfrage

Was ist ein Kontextfenster?

Context Window

Das Kontextfenster ist die maximale Textmenge, die ein Sprachmodell bei einer einzelnen Anfrage gleichzeitig berücksichtigen kann, gemessen in Tokens. In dieses Budget müssen Systemanweisung, bisheriger Gesprächsverlauf, Anhänge und die Antwort selbst gemeinsam hineinpassen.

Wenn ein Assistent den Anfang eines langen Gesprächs vergisst oder ein Dokument abschneidet, liegt das fast immer an dieser Grenze und nicht an einem Fehler.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Gemessen in
Tokens
Enthält
Systemprompt, Verlauf, Anhänge und Antwort
Merkbar bei
Langen Verträgen, Protokollen, Chatverläufen
Verwechselt mit
Dem Gedächtnis des Assistenten

Was alles im Kontextfenster steht

Ein Sprachmodell hat kein Gedächtnis zwischen zwei Anfragen. Die Anwendung schickt bei jeder neuen Nachricht alles, was das Modell wissen soll, erneut mit, und das alles teilt sich dasselbe Budget:

  • Systemanweisung

    Die Vorgaben des Anbieters oder deines Unternehmens, die du im Chat meist gar nicht siehst.

  • Werkzeugbeschreibungen

    Kann der Assistent suchen, rechnen oder auf andere Systeme zugreifen, steht die Beschreibung jedes Werkzeugs ebenfalls im Fenster.

  • Gesprächsverlauf

    Jede frühere Frage und jede frühere Antwort im selben Chat.

  • Anhänge und Suchergebnisse

    Hochgeladene Dokumente, eingefügte Texte und Webseiten, die der Assistent für dich abgerufen hat.

  • Denkschritte

    Reasoning-Modelle schreiben vor der Antwort interne Zwischenschritte, die je nach Modell ebenfalls Platz belegen.

  • Die Antwort

    Auch der Text, den das Modell gerade erzeugt, muss noch ins Fenster passen.

Wenn ein Werkzeug bei langen Eingaben plötzlich nur noch kurze Antworten liefert oder frühere Absprachen ignoriert, ist meistens schlicht kein Platz mehr frei.

Tokens statt Zeichen und Seiten

Ein Modell verarbeitet keine Wörter, sondern Tokens, also Wortbestandteile. Kurze englische Alltagswörter sind oft ein einziges Token, deutsche Komposita wie Betriebsvereinbarung zerfallen in mehrere. Für dieselbe Aussage braucht ein deutscher Text deshalb in der Regel mehr Tokens als ein englischer, und ein Vertragsanhang füllt das Budget schneller, als die Seitenzahl vermuten lässt.

Wie groß das Fenster ist, hängt vom Modell ab. Aktuelle große Modelle verarbeiten bis zu einer Million Tokens in einer Anfrage, kleinere und lokal betriebene Modelle oft deutlich weniger. In Chat-Oberflächen steht dir außerdem nicht unbedingt das volle Fenster des Modells zur Verfügung, weil der Anbieter es je nach Tarif begrenzt. Wie viele Tokens ein Text genau belegt, zeigen die Tokenzähler in den Entwicklerwerkzeugen der Anbieter.

Was beim Überlaufen passiert

Die Werkzeuge gehen unterschiedlich damit um. Manche brechen mit einer Fehlermeldung ab, was der ehrlichste Fall ist. Andere schneiden stillschweigend die ältesten Nachrichten weg, wieder andere fassen den bisherigen Verlauf automatisch zusammen und arbeiten mit der Zusammenfassung weiter. In den letzten beiden Fällen bekommst du keine Warnung, sondern nur schlechtere Antworten.

Dazu kommt ein Effekt, der schon lange vor der Grenze einsetzt: Angaben in der Mitte einer sehr langen Eingabe werden weniger zuverlässig aufgegriffen als Angaben am Anfang und am Ende. Forschende haben das unter dem Namen „Lost in the Middle“ beschrieben. Ein riesiges Kontextfenster ist deshalb keine Garantie dafür, dass auch alles darin beim Modell ankommt.

Kontextfenster, Ausgabelimit und Nutzungslimit

Drei Grenzen werden im Alltag oft durcheinandergeworfen, obwohl sie sich unterschiedlich bemerkbar machen:

GrenzeWas sie begrenztWoran du sie merkst
KontextfensterEingabe und Ausgabe einer Anfrage zusammenFehlermeldung, vergessene Absprachen, gekürzter Verlauf
AusgabelimitLänge einer einzelnen AntwortAntwort bricht mitten in Satz, Tabelle oder Code ab
NutzungslimitAnzahl oder Umfang der Anfragen pro ZeitraumSperre bis zum nächsten Zeitfenster oder Hinweis auf den Tarif

Bei der Nutzung über eine Schnittstelle kommt der Preis dazu: Abgerechnet wird je Token, und weil der gesamte Verlauf bei jeder Nachricht erneut gesendet wird, wird jede weitere Frage in einem langen Chat teurer als die vorherige.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
Nicht verwechseln

Kontextfenster und was oft damit gleichgesetzt wird

Kontextfenster gegen Gedächtnis oder Memory

Manche Werkzeuge speichern Notizen über dich dauerhaft außerhalb des Chats und legen sie bei Bedarf in das Fenster. Das ist eine Funktion der Anwendung, nicht des Modells, und es vergrößert das Kontextfenster nicht, sondern belegt einen Teil davon.

Kontextfenster gegen Trainingsdaten

Trainingsdaten sind das, was ein Modell einmal gelernt hat und dauerhaft in seinen Gewichten trägt. Das Kontextfenster ist das, was es in genau dieser Anfrage vor sich hat. Was du in den Chat schreibst, verändert das Modell nicht.

Kontextfenster gegen Retrieval Augmented Generation

RAG umgeht die Grenze, statt sie zu erweitern: Ein Suchsystem holt aus einem großen Bestand nur die passenden Abschnitte und legt diese in das Fenster. So lassen sich Tausende Dokumente befragen, obwohl nur wenige davon gleichzeitig hineinpassen.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt
In der Praxis

Ein großes Fenster löst das Problem nicht von allein

Der häufigste Fall im Alltag ist der lange Chat. Nach einer Stunde Hin und Her ist der Verlauf so groß, dass frühe Absprachen aus dem Budget fallen, und der Assistent widerspricht plötzlich dem, was oben vereinbart war. Der alte Verlauf zieht die Antworten außerdem inhaltlich in die vorherige Richtung. Statt weiter zu diskutieren, lässt du den Stand in wenigen Sätzen zusammenfassen und beginnst damit einen neuen Chat.

Gib den Ausschnitt statt des ganzen Dokuments. Drei relevante Absätze aus dem Handbuch führen verlässlicher zum Ziel als das komplette Handbuch, in dem der entscheidende Satz irgendwo in der Mitte steht. Wenn eine Angabe entscheidend ist, gehört sie in die Anweisung und nicht in Anhang drei.

Und wiederhole zentrale Vorgaben am Ende der Eingabe, kurz vor der eigentlichen Aufgabe. Was direkt vor der Frage steht, wird zuverlässiger befolgt als eine Vorgabe, die zwanzig Nachrichten zurückliegt. Bricht eine lange Tabelle oder ein langer Text ab, helfen mehrere kleine Teilaufgaben mehr als die Bitte, sich kurz zu fassen.

Kontextfenster lernen

Wie du lange Vorgänge sinnvoll aufteilst, statt einen Chat endlos wachsen zu lassen, zeigen die Kurse zum wirksamen Umgang mit Chatbots.

Wenn du zum ersten Mal ernsthaft mit einem Chatbot arbeitest, sind die Grundlagenkurse für den Einstieg in KI-Tools der passende Start.

Häufige Fragen

Warum vergisst der Chat, was ich am Anfang geschrieben habe?
Weil der Verlauf bei jeder Anfrage neu mitgeschickt wird und irgendwann nicht mehr vollständig hineinpasst. Das Werkzeug kürzt dann die ältesten Teile oder ersetzt sie durch eine Zusammenfassung. Wenn eine Vorgabe wichtig bleibt, schreib sie erneut hin, statt dich auf die erste Nennung zu verlassen.
Ist ein größeres Kontextfenster immer besser?
Nicht automatisch. Mehr Inhalt im Fenster heißt mehr Rechenaufwand, längere Wartezeit und höhere Kosten, und die Aufmerksamkeit des Modells verteilt sich auf mehr Text. Ein gezielt zusammengestellter Ausschnitt schlägt in der Regel den kompletten Datenberg.
Zählt ein hochgeladenes PDF gegen das Kontextfenster?
In der Regel ja, sobald der Text daraus an das Modell geht, bei manchen Werkzeugen zusätzlich die Seitenbilder. Andere Werkzeuge legen das Dokument in einen Index und holen nur passende Stellen heraus. Was in deinem Fall passiert, merkst du daran, ob das Werkzeug auch Fragen zu weit hinten liegenden Abschnitten sauber beantwortet.
Kann ich das Kontextfenster vergrößern?
Nicht über eine Einstellung im Chat, die Größe ist eine Eigenschaft des Modells und des Tarifs. Du kannst ein Modell mit größerem Fenster wählen oder den Platz besser nutzen: kürzere Verläufe, Ausschnitte statt ganzer Dokumente und eine Suche, die nur die passenden Stellen nachlädt.

Passt thematisch dazu

Bessere Antworten entstehen oft nicht durch eine geschicktere Frage, sondern dadurch, dass du lernst, den Inhalt des Kontextfensters gezielt zusammenzustellen.

Wer Sprachmodelle über eine Schnittstelle nutzt, kann die Tokenkosten langer Verläufe in den Griff bekommen, ohne auf ein schwächeres Modell auszuweichen.

Persönlich für dich da

Deine Ansprechpartner

Du willst das Thema nicht nur nachschlagen, sondern anwenden können? Wir beraten dich persönlich und kostenlos.

Yves Hoppe

Yves Hoppe

Weiterbildung & Beratung

Ordnet mit dir ein, welcher Kurs zu deinem Vorwissen passt.

Norbert Jansen

Norbert Jansen

Beratung & Inhouse

Plant Inhouse-Trainings, die an euren eigenen Daten und Abläufen ansetzen.

Kontextfenster im Kurs statt im Lexikon

Nachschlagen bringt dich bis zum Verstehen. Anwenden lernst du an echten Aufgaben.