ODAR: Prinzipielle adaptive Routenplanung für LLM-Logik mittels aktiver Inferenz

Die Art und Weise, wie große Sprachmodelle (LLMs) logische Aufgaben lösen, hat sich grundlegend gewandelt: Statt die Modellparameter weiter zu skalieren, liegt der Fokus nun auf der Optimierung der Rechenleistung während der Ausführung. Trotz dieses Fortschritts greifen viele aktuelle Ansätze noch immer auf gleichmäßiges, brute‑force Sampling zurück – etwa feste Best‑of‑N‑Strategien oder Self‑Consistency – was nicht nur teuer, sondern auch schwer nachvollziehbar ist und häufig zu übermäßiger „Überdenkung“ führt.

Um diesem Problem entgegenzuwirken, stellt das neue Framework ODAR‑Expert vor, das die Balance zwischen Genauigkeit und Effizienz durch eine principielle Ressourcenzuteilung verbessert. Im Kern nutzt ODAR einen Schwierigkeits­schätzer, der auf amortisierter aktiver Inferenz basiert, um Anfragen dynamisch zwischen einem schnellen, heuristischen „Fast Agent“ und einem überlegenen, nachdenklichen „Slow Agent“ zu routen. So werden nur die wirklich komplexen Fragen dem Slow Agent zugewiesen, während einfachere Aufgaben sofort beantwortet werden.

Ein weiteres Highlight ist die frei‑Energie‑basierte, risikosensible Fusion‑Methode, die Antworten auswählt, indem sie ein variationales Free‑Energy‑Objektiv minimiert. Dabei werden die Log‑Wahrscheinlichkeit und die epistemische Unsicherheit (Varentropy) abgewogen – ein mathematisch fundierter Ansatz, der herkömmliche, willkürliche Abstimmungsmechanismen über heterogene Kandidaten ersetzt. Die Evaluation auf 23 Benchmarks zeigt beeindruckende Ergebnisse: 98,2 % Genauigkeit bei MATH und 54,8 % bei Humanity’s Last Exam (HLE), während die Rechen‑Effizienz unter gleichwertigen Compute‑Bedingungen deutlich verbessert wird.

Die Reproduzierbarkeit wurde an einem vollständig Open‑Source‑Stack (Llama 4 + DeepSeek) bestätigt. Dort übertrifft ODAR homogene Sampling‑Strategien und senkt die Rechenkosten um 82 %. Diese Befunde legen nahe, dass die optimale Skalierung von LLM‑Logik nicht einfach durch mehr Test‑Time‑Compute erreicht wird, sondern durch adaptive Ressourcenzuteilung und frei‑Energie‑basierte Entscheidungsfindung.