Was ist das Kontextfenster bei LLMs? Schnell erklärt

Jeden Tag nutzen wir große Sprachmodelle (LLMs), indem wir Fragen stellen, Dokumente einfügen oder lange Gespräche führen. Wir erwarten, dass das Modell sich an frühere Eingaben erinnert, damit die Unterhaltung flüssig bleibt. Wenn das Modell tatsächlich die vorherigen Informationen berücksichtigt, können wir einfach weitermachen. Wenn nicht, wiederholen wir uns oder vermuten einen Fehler.

Viele Menschen denken dabei nicht daran, dass jede Antwort eines LLMs durch ein festes Limit eingeschränkt ist – das sogenannte Kontextfenster. Dieses Fenster bestimmt, wie viel Text das Modell gleichzeitig „sehen“ kann, bevor es frühere Teile ausblendet. Es ist vergleichbar mit dem Speicher eines Computers: je größer der Speicher, desto mehr Informationen können gleichzeitig verarbeitet werden.

Das Kontextfenster ist entscheidend für die Qualität der Antworten. Wenn ein Gespräch oder ein Dokument die Grenze überschreitet, verliert das Modell den Überblick über frühere Abschnitte, was zu Wiederholungen oder fehlenden Verweisen führen kann. Entwickler und Anwender müssen daher die Größe des Fensters berücksichtigen, um optimale Ergebnisse zu erzielen.

Insgesamt ist das Verständnis des Kontextfensters ein wichtiger Schritt, um die Leistungsfähigkeit von LLMs besser zu nutzen und Missverständnisse in der Interaktion zu vermeiden.