Kostenbewusste Agenten‑Routing‑Strategie optimiert LLM‑Workflows

Mit der Weiterentwicklung großer Sprachmodelle (LLMs) zu autonomen Agenten, die komplexe Aufgaben in mehreren Schritten ausführen, wird die ständige Nutzung hochleistungsfähiger Modelle schnell zu einem Kostenfaktor. Das neue Verfahren „Budget‑Aware Agentic Routing“ löst dieses Problem, indem es zu jedem Schritt entscheidet, ob ein günstiges oder ein teures Modell eingesetzt wird. So wird die Erfolgs‑Kosten‑Grenze optimiert und gleichzeitig ein festes Budget pro Aufgabe eingehalten.

Der Schlüssel liegt in der „Boundary‑Guided Training“-Methode. Hier werden zwei Grenz‑Policies – immer‑klein und immer‑groß – genutzt, um eine Schwierigkeits‑Taxonomie zu erstellen und das Lernen bei sparsamen Belohnungen zu stabilisieren. Zunächst werden mithilfe von Boundary‑Guided SFT Daten synthetisiert, indem kosteneffiziente Pfade gezielt ausgewählt werden. Anschließend folgt die Boundary‑Guided Policy Optimization (BoPO), die Grenz‑relative Belohnungen mit einer Referenz‑gesteuerten Vorteilskomponente kombiniert. Dadurch werden teure Fehlentscheidungen vermieden und die Agenten lernen, bei Bedarf das teurere Modell einzusetzen.

Experimentelle Ergebnisse zeigen, dass das Verfahren die Effizienz‑Grenze deutlich verschiebt: Es erreicht die Leistungen starker Routing‑Baselines, jedoch zu einem Bruchteil der Kosten. Darüber hinaus demonstriert es eine robuste Generalisierung auf strenge Budgetbeschränkungen während der Inferenz. Damit legt die Arbeit einen soliden Grundstein für dynamische, budget‑bewusste Entscheidungsfindung in autonomen LLM‑Agenten und ersetzt das bisherige statische Modell‑Auswahlparadigma.