Eingabegrenze pro Anfrage

Was ist ein Kontextfenster?

Context Window

Das Kontextfenster ist die maximale Textmenge, die ein Sprachmodell bei einer einzelnen Anfrage gleichzeitig berücksichtigen kann. Gemessen wird sie in Tokens, und in dieses Budget müssen die Systemanweisung, der bisherige Gesprächsverlauf, alle Anhänge und die Antwort selbst hineinpassen.

Wenn ein Assistent den Anfang eines langen Gesprächs vergisst oder ein Dokument abschneidet, liegt das fast immer an dieser Grenze und nicht an einem Fehler.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt

Gemessen in: Tokens
Enthält: Systemprompt, Verlauf, Anhänge und Antwort
Merkbar bei: Langen Verträgen, Protokollen, Chatverläufen
Verwechselt mit: Dem Gedächtnis des Assistenten

Tokens statt Zeichen

Ein Modell verarbeitet keine Wörter, sondern Tokens, also Wortbestandteile. Kurze englische Alltagswörter sind oft ein einziges Token, deutsche Komposita wie Betriebsvereinbarung zerfallen in mehrere. Für dieselbe Aussage braucht ein deutscher Text deshalb in der Regel mehr Tokens als ein englischer, und ein Vertragsanhang füllt das Budget schneller, als die Seitenzahl vermuten lässt.

Wichtig ist, dass alles mitzählt: die Systemanweisung, die du gar nicht siehst, jede frühere Nachricht im selben Chat, jedes hochgeladene Dokument und der Platz, den die Antwort noch braucht. Wenn ein Werkzeug bei langen Eingaben plötzlich nur noch kurze Antworten liefert, ist meistens schlicht kein Platz mehr frei.

Was beim Überlaufen passiert

Die Werkzeuge gehen unterschiedlich damit um. Manche brechen mit einer Fehlermeldung ab, was der ehrlichste Fall ist. Andere schneiden stillschweigend die ältesten Nachrichten weg, wieder andere fassen den bisherigen Verlauf automatisch zusammen und arbeiten mit der Zusammenfassung weiter. In den letzten beiden Fällen bekommst du keine Warnung, sondern nur schlechtere Antworten.

Dazu kommt ein Effekt, der schon vor der Grenze einsetzt: Angaben in der Mitte einer sehr langen Eingabe werden weniger zuverlässig aufgegriffen als Angaben am Anfang und am Ende. Ein riesiges Kontextfenster ist deshalb keine Garantie dafür, dass auch alles darin ankommt.

Wie du im Alltag damit umgehst

Nimm für eine neue Aufgabe einen neuen Chat, statt einen alten endlos weiterzuführen. Der alte Verlauf kostet nicht nur Platz, er zieht die Antworten auch inhaltlich in die vorherige Richtung.

Gib außerdem den Ausschnitt statt des ganzen Dokuments. Drei relevante Absätze aus dem Handbuch führen verlässlicher zum Ziel als das komplette Handbuch, in dem der entscheidende Satz irgendwo in der Mitte steht. Wenn regelmäßig große Bestände durchsucht werden müssen, gehört das in ein System, das vorab die passenden Stellen heraussucht und nur diese in das Fenster legt.

Und wiederhole zentrale Vorgaben am Ende der Eingabe, kurz vor der eigentlichen Aufgabe. Was direkt vor der Frage steht, wird zuverlässiger befolgt als eine Vorgabe, die zwanzig Nachrichten zurückliegt.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt

Nicht verwechseln

Kontextfenster und was oft damit gleichgesetzt wird

Kontextfenster gegen Gedächtnis oder Memory

Manche Werkzeuge speichern Notizen über dich dauerhaft außerhalb des Chats und legen sie bei Bedarf in das Fenster. Das ist eine Funktion der Anwendung, nicht des Modells, und es vergrößert das Kontextfenster nicht.

Kontextfenster gegen Trainingsdaten

Trainingsdaten sind das, was ein Modell einmal gelernt hat und dauerhaft in seinen Gewichten trägt. Das Kontextfenster ist das, was es in genau dieser Anfrage vor sich hat.

Kontextfenster gegen Ausgabelänge

Die maximale Antwortlänge ist ein eigenes Limit innerhalb des Fensters. Ein Modell kann viel lesen und trotzdem nur wenig auf einmal schreiben.

KI-generiertDieses Bild wurde mit KI erzeugt · Yves Hoppe / KI / cmt

In der Praxis

Ein großes Fenster löst das Problem nicht von allein

Der häufigste Fall im Alltag ist der lange Chat. Nach einer Stunde Hin und Her ist der Verlauf so groß, dass frühe Absprachen aus dem Budget fallen, und der Assistent widerspricht plötzlich dem, was oben vereinbart war. Statt weiter zu diskutieren, fasst du den Stand in wenigen Sätzen zusammen und beginnst damit neu.

Auch innerhalb des Fensters sind nicht alle Stellen gleich viel wert. Was am Anfang und am Ende der Eingabe steht, wird zuverlässiger berücksichtigt als das, was mitten in einem hundertseitigen Anhang begraben liegt. Wenn eine Angabe entscheidend ist, gehört sie in die Anweisung und nicht in Anhang drei.

Und die Antwort zählt mit. Wenn ein Modell mitten in einer Tabelle oder einem JSON-Objekt abbricht, ist meist nicht die Eingabe zu lang, sondern das Ausgabelimit erreicht. Mehrere kleine Teilaufgaben sind hier verlässlicher als die Bitte, sich kurz zu fassen.

Kontextfenster lernen

Wie du lange Vorgänge sinnvoll aufteilst, statt einen Chat endlos wachsen zu lassen, zeigen die Kurse zum wirksamen Umgang mit Chatbots .

Wenn du zum ersten Mal ernsthaft mit einem Chatbot arbeitest, sind die Grundlagenkurse für den Einstieg in KI-Tools der passende Start.

Kurse, die Kontextfenster behandeln

Häufige Fragen

Warum vergisst der Chat, was ich am Anfang geschrieben habe?

Weil der Verlauf bei jeder Anfrage neu mitgeschickt wird und irgendwann nicht mehr vollständig hineinpasst. Das Werkzeug kürzt dann die ältesten Teile oder ersetzt sie durch eine Zusammenfassung. Wenn eine Vorgabe wichtig bleibt, schreib sie erneut hin, statt dich auf die erste Nennung zu verlassen.

Ist ein größeres Kontextfenster immer besser?

Nicht automatisch. Mehr Platz heißt mehr Rechenaufwand, längere Wartezeit und höhere Kosten, und Inhalte in der Mitte langer Eingaben werden schwächer berücksichtigt. Ein gezielt zusammengestellter Ausschnitt schlägt in der Regel den kompletten Datenberg.

Zählt ein hochgeladenes PDF gegen das Kontextfenster?

In der Regel ja, sobald der Text daraus an das Modell geht. Manche Werkzeuge legen das Dokument stattdessen in einen Index und holen nur passende Stellen heraus. Was in deinem Fall passiert, merkst du daran, ob das Werkzeug auch Fragen zu weit hinten liegenden Abschnitten sauber beantwortet.

Persönlich für dich da