Zustandsdarstellung entscheidet: LLMs meistern dynamische Aufgaben

Mit dem Übergang von statischen zu dynamischen Aufgabenstellungen stehen große Sprachmodelle (LLMs) vor einer neuen Herausforderung: Sie müssen in Echtzeit auf sich verändernde Umgebungen reagieren. Ein bislang wenig beachteter Faktor ist dabei die Art und Weise, wie der aktuelle Zustand des Systems dargestellt wird.

In einer systematischen Untersuchung wurden die Modellparameter festgehalten, während drei zentrale Aspekte der Zustandsrepräsentation variiert wurden: die Granularität (langform vs. Zusammenfassung), die Struktur (natürliche Sprache vs. symbolisch) und die räumliche Einbettung (nur Text vs. Bilder oder textbasierte Karten). Diese Variationen wurden auf mehreren Benchmarks für sequentielle Entscheidungsfindung getestet.

Die Ergebnisse zeigen, dass eine Zusammenfassung der gesamten Trajektorie die Leistung deutlich verbessert, indem sie Rauschen reduziert und die langfristige Argumentation stabilisiert. Natürliche Sprachdarstellungen erwiesen sich als am robustesten, während strukturierte Codierungen vor allem bei Modellen mit stark ausgeprägten Code- oder strukturierten Ausgabepräferenzen (z. B. JSON‑Schemas) von Vorteil sind. Interessanterweise übertrifft die textbasierte räumliche Codierung Bilder, weil die Konstruktion selbst das Modell dazu zwingt, räumliches Denken zu aktivieren – ein Effekt, der bei statischen Bildeingaben fehlt.

Insgesamt verdeutlicht die Studie, dass die Gestaltung der Zustandsrepräsentation ein entscheidender Faktor für die Leistung von LLMs in dynamischen Umgebungen ist. Dennoch bleiben aktuelle Modelle und multimodale Varianten bei langen Entscheidungswegen anfällig und zeigen noch erhebliche Schwächen, wenn sie mehrere Teilaufgaben gleichzeitig bewältigen müssen.