RISE: Real‑to‑Virtual Trajektorien reduzieren Intentionabweichungen bei Tool‑Agenten

Die neuesten Fortschritte in großen Sprachmodellen haben Agenten ermöglicht, komplexe Werkzeuge in realen Anwendungen einzusetzen. Trotz dieser Errungenschaften treten häufig unerwartete Verhaltensweisen auf, die vor allem auf eine subtile „Intent‑Deviation“ zurückzuführen sind – ein Problem, das die Zuverlässigkeit von Bewertungen und die Weiterentwicklung der Agenten stark beeinträchtigt.

Aktuelle Ansätze zur Behebung dieser Abweichungen stützen sich entweder auf echte Systemdaten, die mit kostenintensiven, handgefertigten Benutzeranfragen verbunden sind, oder auf virtuelle Daten, die von den Modellen selbst simuliert werden und dabei häufig eine Verteilungssprünge gegenüber den realen Werkzeugen aufweisen. Beide Methoden liefern zudem kaum negative Beispiele, die speziell auf Intent‑Deviation‑Szenarien zugeschnitten sind, was die Effektivität von Präferenzlernverfahren einschränkt.

RISE (Real‑to‑Virtual) bietet eine Lösung, indem es verifizierte Werkzeugprimitiven nutzt, um virtuelle Trajektorien zu synthetisieren und durch gezielte Mutationen an kritischen Parametern vielfältige negative Beispiele erzeugt. Durch ein zweistufiges Fein‑Tuning der Basis‑LLMs wird die Intent‑Alignment verbessert. In umfangreichen Tests über acht Metriken hinweg erzielte RISE einen durchschnittlichen Anstieg von 35,28 % bei der Aufgabenerfüllung (Acctask) und 23,27 % bei der Intent‑Alignment (Accintent). Damit übertrifft es die aktuellen Spitzenleistungen um 1,20 – 42,09 % bzw. 1,17 – 54,93 % und demonstriert damit die Wirksamkeit eines realitätsnahen, virtuellen Trainingsansatzes für Tool‑Agenten.