ESTAR: Frühzeitiges Stoppen von Token-bewusstem Denken steigert Effizienz

Ein neues Verfahren namens ESTAR (Early‑Stopping for Token‑Aware Reasoning) ermöglicht es großen Rechenmodellen, lange Gedankenketten effizienter zu durchlaufen. Durch die frühzeitige Erkennung von Punkten, an denen die Antwort bereits bestimmt ist, werden unnötige Rechenzyklen vermieden, ohne die Genauigkeit zu beeinträchtigen.

ESTAR kombiniert drei zentrale Techniken: Erstens nutzt ein trajektorienbasierter Klassifikator, um zu bestimmen, wann das Modell sicher stoppen kann. Zweitens wird das Modell mittels überwachten Feinabstimmens dazu gebracht, eigene Signale für einen möglichen Stopp zu generieren. Drittens kommt token‑sensitives Reinforcement Learning zum Einsatz, das Rollouts an selbst generierten Stop‑Punkten abschneidet und dabei rechnerfreundliche Belohnungen berücksichtigt.

In Experimenten mit vier unterschiedlichen Rechenaufgaben konnte ESTAR die durchschnittliche Länge der Gedankenkette um etwa 3,7‑fach reduzieren – von 4.799 auf 1.290 Tokens – während die Genauigkeit lediglich von 74,9 % auf 74,2 % sank. Die Methode zeigte zudem eine starke Generalisierung über verschiedene Domänen hinweg, was sie zu einer vielversprechenden Lösung für die Praxis macht.