Kontextfenster
Das Arbeitsgedächtnis der KI. Was nicht hineinpasst, existiert für sie nicht.
Ein Token ist die kleinste Texteinheit, mit der ein Sprachmodell arbeitet — meist ein Wortteil, manchmal ein ganzes Wort oder ein Satzzeichen. Modelle zerlegen jede Eingabe in Tokens, rechnen damit und erzeugen ihre Antwort Token für Token. Nach Tokens bemessen sich auch Kosten, Geschwindigkeit und die Länge des Kontextfensters.
Ein Sprachmodell sieht keinen Text, sondern Zahlenfolgen. Ein sogenannter Tokenizer schneidet die Eingabe vorher in Stücke: Häufige Wörter wie „und“ sind ein einziges Token, seltene oder lange Wörter werden zerlegt. OpenAI nennt als Faustregel für englischen Text rund vier Zeichen pro Token. Deutsche Komposita wie „Rahmenvertragsverhandlung“ zerfallen in mehrere Teile — derselbe Inhalt kostet auf Deutsch deshalb oft mehr Tokens als auf Englisch.
Für Unternehmen ist das kein Detail für Techniker. Bei API-Nutzung wird pro Token abgerechnet, getrennt nach Eingabe und Ausgabe. Wer ein 200-seitiges Handbuch bei jeder Anfrage komplett mitschickt, zahlt jedes Mal dafür. Wer nur die relevanten Abschnitte übergibt, zahlt einen Bruchteil — und bekommt meist die präzisere Antwort.
Vertiefung im Blog: OpenAI GPT Tokens: die DNA von Texten in ChatGPT →
Wo Token im betrieblichen Alltag konkret wird — Beispiele aus der Arbeit mit mittelständischen Unternehmen.
API-Kosten eines geplanten Kundenservice-Bots vorab über das erwartete Token-Volumen kalkulieren
Lange Ausschreibungsunterlagen vor der Analyse auf die relevanten Kapitel kürzen
Bei Abo-Tarifen prüfen, ob Nutzungslimits in Nachrichten oder in Tokens bemessen sind
Sie wollen Token nicht nur verstehen, sondern im eigenen Unternehmen nutzen?
ChatGPT-Vortrag für Ihr Team →Das Arbeitsgedächtnis der KI. Was nicht hineinpasst, existiert für sie nicht.
Das Sprachmodell unter ChatGPT & Co. — es rechnet Wahrscheinlichkeiten, keine Wahrheit.
Sinn statt Wortlaut: Die KI findet „Kündigung“, wenn jemand „Vertrag beenden“ sucht.
Gute Anweisung, gutes Ergebnis. Warum Prompting eine Führungsaufgabe ist.
Es gibt keine feste Umrechnung. Für englischen Text gilt als Faustregel: ein Token entspricht rund vier Zeichen oder etwa drei Vierteln eines Wortes. Deutscher Text braucht wegen langer zusammengesetzter Wörter in der Regel mehr Tokens für dieselbe Aussage.
Weil der Rechenaufwand eines Modells mit der Zahl der verarbeiteten Tokens wächst. Eingabe- und Ausgabe-Tokens werden meist unterschiedlich bepreist — die erzeugten Ausgabe-Tokens sind in der Regel teurer.
Im normalen Chat-Abo kaum. Sobald Sie KI über eine Schnittstelle in eigene Prozesse einbauen oder sehr lange Dokumente verarbeiten, bestimmen Tokens direkt Kosten und Grenzen — dann lohnt der Blick darauf.
Von Token zur Anwendung im eigenen Betrieb: Als Keynote Speaker und KI-Berater zeige ich Entscheidern im Mittelstand, wo KI Arbeit abnimmt — und wo nicht.