AutoTool: Effiziente Werkzeugauswahl für LLM-Agenten

In der Welt der großen Sprachmodelle (LLMs) haben Agenten, die komplexe Aufgaben automatisieren, einen enormen Aufschwung erlebt. Ein entscheidender Engpass bleibt jedoch die hohe Rechenlast, die entsteht, wenn das Modell ständig entscheidet, welches Werkzeug es in jedem Schritt einsetzen soll. Besonders bei ReAct‑ähnlichen Ansätzen wird das LLM wiederholt aufgerufen, um die nächste Aktion zu bestimmen, was die Effizienz stark einschränkt.

Die neue Methode namens AutoTool löst dieses Problem, indem sie die Beobachtung nutzt, dass Tool‑Verwendungen oft vorhersehbare Sequenzen bilden – ein Phänomen, das als „Tool‑Usage‑Inertia“ bezeichnet wird. AutoTool baut einen gerichteten Graphen aus historischen Agentenpfaden auf, wobei Knoten die einzelnen Werkzeuge darstellen und Kanten die Übergangswahrscheinlichkeiten zwischen ihnen abbilden. Durch die Integration von Parameter‑Informationen kann das System zudem die Eingaben für jedes Werkzeug präzise anpassen.

Durch das Durchlaufen dieses strukturierten Graphen kann AutoTool Werkzeuge und deren Parameter auswählen, ohne das LLM in jedem Schritt erneut zu aktivieren. In umfangreichen Experimenten über verschiedene Agentenaufgaben hinweg konnte die Methode die Inferenzkosten um bis zu 30 % senken, während die Erfolgsraten bei der Aufgabenerfüllung unverändert hoch blieben. Damit bietet AutoTool einen praktischen und skalierbaren Ansatz, um die Effizienz von LLM‑Agenten zu steigern, ohne dabei die Leistung zu beeinträchtigen.