ThinkRouter: Effizientes Denken durch Routing zwischen latenter und diskreter Ebene

Eine neue Veröffentlichung auf arXiv (2602.11683v1) präsentiert ThinkRouter, ein innovatives Verfahren, das die Effizienz von KI‑Reasoning deutlich steigert. Durch die Kombination von latenter und diskreter Denkweise soll die Notwendigkeit expliziter Rechenpfade reduziert werden.

Frühere Ansätze haben gezeigt, dass das Ersetzen von klaren Rechenwegen durch kontinuierliche Repräsentationen im latenten Raum die Leistung verbessern kann – allerdings nicht überall. Eine Analyse der Vertrauensdynamik des Modells offenbart, dass Denkpfade, die zu falschen Antworten führen, weniger Schritte mit niedrigem Vertrauen aufweisen als korrekte Pfade. Gleichzeitig kann die Aggregation mehrerer schwacher Denkalternativen zu verrauschten, aber zu hohen Vertrauenswerten führen.

ThinkRouter reagiert darauf, indem es bei niedrigem Modellvertrauen die Denkweise in den diskreten Token‑Raum umschaltet und bei hohem Vertrauen im latenten Raum bleibt. Dieses Routing erfolgt zur Laufzeit und ist damit dynamisch an die aktuelle Situation angepasst.

In umfangreichen Tests auf STEM‑ und Programmier‑Benchmarks über verschiedene große Reasoning‑Modelle hinweg übertrifft ThinkRouter sowohl klassische Chain‑of‑Thought‑Methoden als auch zufälliges Routing und reine latente Ansätze. Die durchschnittliche Verbesserung von 19,70 Punkten in Pass@1 und eine Reduktion der Generationslänge um bis zu 15,55 % verdeutlichen die Effektivität des Ansatzes.

Zusätzlich zeigt die Analyse, dass ThinkRouter Fehler aus expliziten Chain‑of‑Thought‑ und latenten Verfahren ausgleichen kann und die End‑Token‑Generierung beschleunigt, indem es das Modellglobales Vertrauen senkt. Diese Ergebnisse legen nahe, dass ein dynamisches Routing zwischen latenter und diskreter Denkweise ein vielversprechender Weg ist, um KI‑Reasoning sowohl genauer als auch effizienter zu gestalten.