Token
Die Währung der Sprachmodelle: Sie lesen keine Wörter, sie zählen Silben-Stücke.
auch: Context Window
Das Kontextfenster ist die maximale Textmenge, die ein Sprachmodell in einem Durchgang berücksichtigen kann — Eingabe, Gesprächsverlauf, angehängte Dokumente und Antwort zusammen. Es wird in Tokens gemessen. Was außerhalb des Fensters liegt, kennt das Modell in diesem Moment nicht. Aktuelle Spitzenmodelle verarbeiten bis zu einer Million Tokens.
Das Kontextfenster ist das Kurzzeitgedächtnis eines Modells, nicht sein Langzeitwissen. Ende 2022 startete ChatGPT mit gut 4.000 Tokens — ein paar Seiten Text. Google stellte im Februar 2024 mit Gemini 1.5 Pro ein Fenster von einer Million Tokens vor, inzwischen bieten auch Claude und die GPT-Modelle in der API Fenster dieser Größenordnung. Damit passen ganze Vertragswerke oder Jahresberichte in eine einzige Anfrage.
Groß heißt nicht automatisch gut. Forscher um Nelson Liu (Stanford) haben 2023 unter dem Titel „Lost in the Middle“ gezeigt, dass Modelle Informationen in der Mitte langer Eingaben schlechter nutzen als am Anfang oder Ende. Dazu kommen Kosten: Jedes Token im Fenster wird berechnet. Für den Mittelstand heißt das — lange Dokumente direkt hochladen, wenn es um einen einzelnen Vorgang geht, für dauerhaftes Firmenwissen dagegen auf RAG setzen.
Ein typischer Effekt im Alltag: In sehr langen Chats „vergisst“ die KI frühe Vorgaben. Sie ist nicht nachlässig — die ersten Nachrichten sind schlicht aus dem Fenster gerutscht oder gehen im Rest unter. Ein neuer Chat mit sauberer Zusammenfassung hilft oft mehr als die zehnte Ermahnung.
Vertiefung im Blog: ChatGPT vs. Claude vs. Gemini: Welche KI der Mittelstand braucht →
Wo Kontextfenster im betrieblichen Alltag konkret wird — Beispiele aus der Arbeit mit mittelständischen Unternehmen.
Einen kompletten Rahmenvertrag samt Anlagen in einem Durchgang auf Abweichungen prüfen
Protokolle mehrerer Projektmeetings gemeinsam auswerten statt einzeln
Lange Chat-Verläufe bewusst beenden und mit einer Zusammenfassung neu starten
Sie wollen Kontextfenster nicht nur verstehen, sondern im eigenen Unternehmen nutzen?
KI-Workshop für Ihr Team →Die Währung der Sprachmodelle: Sie lesen keine Wörter, sie zählen Silben-Stücke.
Antworten aus den eigenen Dokumenten statt aus dem Trainingsgedächtnis.
Das Sprachmodell unter ChatGPT & Co. — es rechnet Wahrscheinlichkeiten, keine Wahrheit.
Klingt plausibel, ist falsch. Warum Sprachmodelle Fakten erfinden.
Die Werte ändern sich mit jeder Modellgeneration und unterscheiden sich zwischen Chat-Oberfläche und API. Die aktuellen Spitzenmodelle der drei Anbieter erreichen in der API bis zu eine Million Tokens, im Chat-Abo gelten teils kleinere Grenzen. Maßgeblich ist die jeweils aktuelle Herstellerangabe.
Ältere Teile des Gesprächs werden abgeschnitten oder zusammengefasst, oder das System lehnt die Eingabe ab. Die KI verliert dann frühere Anweisungen und Details — oft, ohne darauf hinzuweisen.
Nein. Ein großes Fenster eignet sich für einzelne, abgegrenzte Dokumente. Für große, wachsende Wissensbestände bleibt RAG günstiger und präziser, weil nur die relevanten Abschnitte ins Fenster geladen werden.
Von Kontextfenster zur Anwendung im eigenen Betrieb: Als Keynote Speaker und KI-Berater zeige ich Entscheidern im Mittelstand, wo KI Arbeit abnimmt — und wo nicht.