Context Cartography: Strukturierte Steuerung des Kontextraums in LLM-Systemen
Die bisherige Strategie zur Verbesserung der Argumentationsfähigkeit großer Sprachmodelle (LLMs) bestand darin, die Kontextfenster zu vergrößern und dabei anzunehmen, dass mehr Tokens automatisch bessere Ergebnisse liefern. Neue empirische Befunde – etwa der „lost in the middle“-Effekt und die Vers…