Martingale Foresight Sampling: Neue Methode für effizientere LLM-Decodierung

Die herkömmliche autoregressive Decodierung großer Sprachmodelle (LLMs) ist von Natur aus kurzsichtig und kann bei komplexen Aufgaben oft keine optimalen Denkpfade finden. Um diesem Problem entgegenzuwirken, wurden bereits Strategien wie Foresight Sampling entwickelt, die jedoch meist auf ad‑hoc-Heuristiken zur Bewertung und Beschneidung von Pfaden setzen.

In dem neuen Beitrag wird Martingale Foresight Sampling (MFS) vorgestellt – ein prinzipielles Verfahren, das die Decodierung als Problem der Identifikation eines optimalen stochastischen Prozesses formuliert. Durch die Anwendung der Martingaltheorie werden drei zentrale Komponenten definiert: die Schrittbewertung erfolgt über den Doob‑Decomposition‑Theorem, die Pfadwahl nutzt die Optional‑Stopping‑Theory zur systematischen Eliminierung suboptimaler Kandidaten, und ein adaptives Stoppkriterium, basierend auf dem Martingale‑Convergence‑Theorem, beendet die Suche, sobald die Qualität eines Pfades konvergiert.

Experimentelle Ergebnisse auf sechs anspruchsvollen Rechenaufgaben zeigen, dass MFS die Genauigkeit gegenüber aktuellen Spitzenmethoden deutlich steigert und gleichzeitig die Rechenkosten reduziert. Der zugehörige Code wird im Rahmen des Projekts auf GitHub veröffentlicht, sodass die Forschungsgemeinschaft die Methode unmittelbar nutzen und weiterentwickeln kann.