Kontextlänge

KI-Glossar

Die Kontextlänge eines KI-Modells gibt an, wie viel Text es gleichzeitig verarbeiten kann — also die maximale Menge an Eingabe plus Ausgabe, die in einem einzigen Gespräch oder einer Anfrage möglich ist.

Kurzdefinition

Die Kontextlänge (englisch: Context Length oder Context Window) bezeichnet die maximale Anzahl von Token, die ein Sprachmodell gleichzeitig als Eingabe verarbeiten und bei der Ausgabe berücksichtigen kann. Sie umfasst die gesamte Konversationshistorie, den Systemauftrag und die aktuelle Anfrage. Überschreitet der Text das Kontextfenster, verliert das Modell die ältesten Teile aus dem „Arbeitsgedächtnis“. Typische Kontextlängen moderner Modelle reichen von 16.000 bis über 1.000.000 Token.

Einfach erklärt

Stellen Sie sich das Kontextfenster wie den Tisch vor, auf dem ein Assistent arbeitet: Alles, was auf dem Tisch liegt, kann er sehen und nutzen. Was nicht draufpasst, ist für ihn nicht vorhanden. Bei kurzen Texten und Gesprächen ist der Tisch groß genug. Bei langen Verträgen, Berichten oder mehrstündigen Chat-Verläufen kann er schnell voll werden.

Ein Token entspricht ungefähr 0,75 deutschen Wörtern. Ein Modell mit 128.000 Token Kontext kann etwa 95.000 Wörter oder rund 380 DIN-A4-Seiten auf einmal verarbeiten. Modelle mit über einer Million Token können ganze Bücher oder große Codebasen auf einmal analysieren. Für die Praxis gilt: Je länger die zu verarbeitenden Dokumente, desto wichtiger ist eine ausreichende Kontextlänge.

Beispiel aus dem Arbeitsalltag

Eine Unternehmensberaterin möchte einen 200-seitigen Auditbericht durch ein KI-Modell zusammenfassen lassen. Ein älteres Modell mit kurzem Kontextfenster kann nur Abschnitte verarbeiten und verliert den Überblick über das gesamte Dokument. Mit einem Modell mit großem Kontextfenster kann der gesamte Bericht in einer Anfrage verarbeitet werden — die Zusammenfassung ist konsistenter und vollständiger.

Warum ist der Begriff wichtig?

Kontextlänge ist ein entscheidendes Auswahlkriterium für Modelle im Dokumenten- und Vertragsbereich. Wer regelmäßig lange Texte verarbeitet, braucht ein Modell mit ausreichendem Kontextfenster.

Für Agentic-AI-Systeme und lange Konversationen ist Kontextlänge ebenfalls kritisch: Je länger die Aufgabe dauert, desto mehr Konversationshistorie muss das Modell gleichzeitig im Blick halten.

Chancen

  • Lange Dokumente ohne Aufteilung in einem Durchgang analysierbar
  • Konsistentere Antworten über lange Konversationsverläufe
  • Vollständige Codebasen oder Datensätze in einer Anfrage verarbeitbar
  • Wachstum der Kontextlängen moderner Modelle eröffnet neue Anwendungsfälle

Risiken und typische Fehler

  • Lange Kontexte erhöhen Latenz und Kosten pro Anfrage erheblich
  • Modelle können bei sehr langen Kontexten Informationen in der Mitte „vergessen“
  • Großes Kontextfenster garantiert keine gleichmäßige Aufmerksamkeit über den gesamten Text
  • Sensible Daten im Kontext müssen über die gesamte Länge datenschutzkonform behandelt werden

Verwandte Begriffe

Passende Inhalte im KI College