Adaptive Budgets für Mehrschritt-Logik: Mehr Effizienz, weniger Token

In der Welt der großen Sprachmodelle (LLMs) hat die Leistung beim logischen Denken ein Plateau erreicht. Um dennoch die Rechenzeit zu reduzieren und das Phänomen des „Overthinkings“ zu vermeiden, wird die effiziente Nutzung von Tokens immer wichtiger. Neue Forschungsergebnisse zeigen, dass adaptive Budgetierung – also die gezielte Verteilung von Rechenressourcen auf einzelne Gesprächs­schritte – einen entscheidenden Vorteil bietet.

Die Studie formuliert Mehrschritt‑Logik als ein sequentielles Problem der Rechenallokation und modelliert es als mehrzieligen Markov‑Entscheidungsprozess. Auf dieser Basis wurde TAB (Turn‑Adaptive Budgets) entwickelt, eine Budgetierungs­politik, die mittels Group Relative Policy Optimization (GRPO) trainiert wird. TAB analysiert die gesamte Konversation und weist einfachere Schritte weniger Tokens zu, während komplexere Schritte mehr Ressourcen erhalten. Dadurch wird die Gesamtzahl der Tokens um bis zu 35 % reduziert, ohne die Genauigkeit zu beeinträchtigen.

Für Systeme, die bereits einen Plan aller Teilfragen besitzen, wurde TAB All‑SubQ vorgestellt. Diese Variante berücksichtigt sowohl die bisherigen als auch die zukünftigen Unterfragen und spart bis zu 40 % Tokens im Vergleich zu herkömmlichen Budgetierungs­methoden. Die Experimente auf mathematischen Reasoning‑Benchmarks bestätigen, dass TAB sowohl die Genauigkeit als auch die Effizienz deutlich verbessert und damit einen wichtigen Schritt in Richtung ressourcenschonender KI‑Anwendungen darstellt.