Was ist das Kontextfenster bei LLMs? Schnell erklärt
Jeden Tag nutzen wir große Sprachmodelle (LLMs), indem wir Fragen stellen, Dokumente einfügen oder lange Gespräche führen. Wir erwarten, dass das Modell sich an frühere Eingaben erinnert, damit die Unterhaltung flüssig bleibt. Wenn das Modell tatsächlich die vorherigen Informationen berücksichtigt, können wir einfach weitermachen. Wenn nicht, wiederholen wir uns oder vermuten einen Fehler.