Neuer Ansatz: Optimale Kontrolle als Architekturkomponente verbessert KI‑Rechnen

In einer wegweisenden Veröffentlichung auf arXiv wird ein innovativer Ansatz vorgestellt, der die Art und Weise, wie KI‑Modelle logisches Denken ausführen, grundlegend verändert. Der Autor schlägt vor, das klassische Problem des logischen Rechnens als optimale Steuerung zu formulieren und führt die Test‑Time Control (TTC) Layer ein, die bei der Inferenz ein endliches LQR‑Planungsschema über latente Zustände anwenden.

Der TTC‑Layer integriert sich nahtlos in bereits vortrainierte große Sprachmodelle und ersetzt die bisher externen Planungsmechanismen durch eine interne, wertbasierte Entscheidungsstruktur. Durch die Verwendung einer symplektischen LQR‑Lösung, die als CUDA‑Kernel implementiert ist, wird die Berechnung extrem hardware‑effizient und ermöglicht parallele Ausführung mit minimalem Overhead.

Die Ergebnisse sprechen für sich: Auf dem MATH‑500‑Datensatz steigert der TTC‑Layer die mathematische Problemlösungsleistung um bis zu 27,8 %. Bei den Prüfungsaufgaben AMC und AIME verbessert sich die Pass‑Rate bei 8 Versuchen um das Zwei‑ bis Dreifache. Diese Zahlen zeigen, dass die Einbettung optimaler Kontrolle direkt in die Modellarchitektur ein skalierbares und wirkungsvolles Mittel darstellt, um über reine Test‑Time‑Training‑Methoden hinaus zu denken.