Neue Methode steigert Training von Computer‑Use‑Agents durch Filterung

arXiv – cs.AI Original ≈1 Min. Lesezeit
Anzeige

In einer wegweisenden Veröffentlichung präsentiert ein Forschungsteam einen skalierbaren Ansatz zur Datensynthese für Computer‑Use‑Agents (CUAs). Durch die gezielte Filterung einzelner Handlungsschritte aus verrauschten Rollouts lassen sich hochwertige Trainingsdaten ohne menschliche Annotation erzeugen.

Der Kern des Ansatzes ist die „step‑level filtering“-Methode, die jeden Schritt einer Agenten‑Rekonstruktion einzeln bewertet und nur korrekte Aktionen beibehält. Ergänzt wird dies durch eine reasoning‑Augmentation, die die Planungsqualität weiter steigert. Mit diesem Verfahren entstand das WebSTAR‑Dataset, bestehend aus 13,3 Tausend Trajektorien und 100 Tausend bewerteten, reasoning‑reichen Schritten.

Auf Basis von WebSTAR wurden die Qwen‑2.5‑VL‑Instruct‑Modelle (7 B und 32 B) trainiert. Das 7‑B‑Modell übertrifft das aktuelle Open‑Source‑Benchmark‑Modell UI‑TARS‑1.5‑7B um mehr als 15 % auf der WebVoyager‑Evaluation, obwohl es ausschließlich mit klassischer Supervised‑Finetuning‑Technik arbeitet.

Weiterhin wurde das WebSCORE‑Dataset mit schrittweise bewerteten Aktionen erstellt, und ein 7‑B‑Reward‑Modell namens StepRM, das aus dem o4‑Mini‑Modell destilliert wurde, erreicht dieselbe Bewertungsqualität bei deutlich geringerer Rechenbelastung. Diese Ergebnisse unterstreichen die Bedeutung der Schritt‑für‑Schritt‑Filterung als Schlüsselprinzip für die skalierbare Entwicklung von Computer‑Use‑Agents.

Ähnliche Artikel