EntroCut: Entropie-gesteuerte Trunkierung steigert Effizienz von Chain-of-Thought-Modellen

Ein neues Verfahren namens EntroCut verspricht, die Rechenkosten von Large Reasoning Models (LRMs) drastisch zu senken, ohne dabei die Genauigkeit zu stark zu beeinträchtigen. Durch die gezielte Abschaltung von Zwischenschritten in der Kette des Denkens kann das Modell schneller zu einer Lösung gelangen.

Die Idee basiert auf einer einfachen, aber wirkungsvollen Beobachtung: In den ersten Schritten einer LRM-Ausgabe lässt sich die Entropie der Wahrscheinlichkeitsverteilung zuverlässig nutzen, um zwischen korrekten und fehlerhaften Überlegungen zu unterscheiden. Hohe Entropie signalisiert Unsicherheit, während niedrige Entropie auf eine sichere Entscheidung hinweist.

Um die Effizienz und Genauigkeit systematisch zu vergleichen, wurde die neue Kennzahl Efficiency‑Performance Ratio (EPR) eingeführt. Sie misst den prozentualen Tokensparbetrag pro Prozentpunkt Genauigkeitsverlust und ermöglicht so einen klaren Blick auf das Verhältnis von Aufwand zu Ergebnis.

In Experimenten an vier etablierten Benchmarks konnte EntroCut die Tokenanzahl um bis zu 40 % reduzieren, während die Genauigkeit nur minimal zurückging. Im Vergleich zu anderen training‑freien Ansätzen erzielte es die besten Effizienz‑Performance‑Trade‑offs und demonstriert damit, dass entropie‑gesteuerte Trunkierung ein praktikabler Weg ist, die Ineffizienz von LRMs zu verringern.