Das Kontextfenster ist das „Arbeitsgedächtnis“ einer KI: die maximale Textmenge, die ein Sprachmodell gleichzeitig berücksichtigen kann – gemessen in Tokens. Es umfasst alles: deine Eingaben, die bisherigen Antworten und hochgeladene Dokumente.
Was passiert, wenn das Kontextfenster voll ist?
Läuft ein Gespräch zu lange oder ist ein Dokument zu groß, passt nicht mehr alles hinein. Je nach Anwendung wird dann der älteste Teil des Gesprächs weggelassen oder zusammengefasst – die KI „vergisst“, was am Anfang stand. Das ist der häufigste Grund, warum ein Chatbot in langen Unterhaltungen plötzlich frühere Absprachen ignoriert.
Wie groß sind Kontextfenster heute?
Die Größen sind in den letzten Jahren stark gewachsen: von wenigen tausend Tokens auf 128.000, 200.000 oder sogar über eine Million Tokens bei aktuellen Spitzenmodellen. Zur Einordnung: 100.000 Tokens entsprechen grob 150 Buchseiten. Ein großes Kontextfenster heißt aber nicht automatisch, dass das Modell alles darin gleich gut nutzt – Informationen „in der Mitte“ langer Texte werden erfahrungsgemäß am ehesten übersehen.
Praxis-Tipps
- Starte für ein neues Thema einen neuen Chat – das hält den Kontext sauber und die Antworten präzise.
- Wiederhole wichtige Vorgaben in langen Gesprächen gelegentlich, statt dich darauf zu verlassen, dass die KI sie noch „im Kopf“ hat.
- Bei sehr großen Dokumentmengen ist RAG die bessere Lösung als alles in den Prompt zu packen.
Verwandte Begriffe
Token · LLM · RAG · Zum ganzen KI-Glossar