EigenData: Selbstentwickelnde Daten & verifizierendes RL für Tool-Agenten
EigenData ist ein hierarchisches Multi‑Agenten‑System, das interaktive Tool‑Agenten durch selbstentwickelnde Daten und verifizierendes Reinforcement Learning (RL) trainiert. Es erzeugt synthetische, tool‑geprägte Dialoge, ergänzt diese um ausführbare Prüfer und verbessert die Generierung durch einen geschlossenen Selbst‑entwickelnden Prozess, der Prompt und Workflow kontinuierlich anpasst.
Die Herausforderung besteht darin, dass Tool‑Agenten komplexe Aufgaben über mehrere Interaktionsrunden hinweg lösen müssen. Dazu gehören Dialogzustandsverfolgung, mehrstufige Tool‑Ausführung und das Befolgen komplizierter Anweisungen. Nach dem Training ist es schwierig, qualitativ hochwertige Multi‑Turn‑Tool‑Nutzungsdaten zu skalieren, und klassische RL‑Ansätze leiden unter verrauschten Signalen, die durch Benutzersimulation entstehen.
EigenData kombiniert einen selbstentwickelnden Datenagenten mit einem verifier‑basierten RL‑Ansatz. Der Agent generiert Dialoge, die von per‑Instanz‑Checkern überprüft werden, und nutzt die Rückmeldungen, um Prompt‑Design und Arbeitsabläufe iterativ zu optimieren. Auf dieser synthetischen Basis wird anschließend ein RL‑Rezept angewendet, das zunächst das Benutzer‑Modell fein‑tuned und dann mit einer GRPO‑ähnlichen Trainingsmethode arbeitet, die trajektorienbasierte gruppenrelative Vorteile und dynamisches Filtern nutzt.
In der Evaluation auf dem tau²‑Bench‑Benchmark erzielte das beste Modell eine Pass‑Rate von 73,0 % bei Airline‑Aufgaben und 98,3 % bei Telecom‑Aufgaben. Diese Ergebnisse übertreffen oder entsprechen den führenden Modellen und zeigen, dass EigenData einen skalierbaren Weg bietet, komplexe Tool‑Nutzungsfähigkeiten ohne teure menschliche Annotationen zu entwickeln.