ITR: LLM-Agenten sparen 70 % Kosten – mehr Loops durch gezielte Tool-Auswahl

Auf der Plattform arXiv wurde die neue Methode Instruction‑Tool Retrieval (ITR) vorgestellt, die LLM‑Agenten effizienter macht, indem sie nur die nötigsten System‑Prompt‑Fragmente und ein minimal benötigtes Tool‑Set pro Schritt abruft.

Traditionell müssen Agenten bei jedem Schritt lange System‑Anweisungen und umfangreiche Tool‑Kataloge erneut einlesen. Das erhöht nicht nur die Kosten, sondern auch die Wahrscheinlichkeit von Fehlentscheidungen, die Latenz und die Fehlerquote bei der Tool‑Auswahl.

ITR löst dieses Problem, indem es pro Schritt nur die minimalen Prompt‑Fragmente und die kleinste notwendige Tool‑Untergruppe abruft. Dabei wird ein dynamisches Laufzeit‑Prompt erstellt und ein eingeschränktes Tool‑Set mit vertrauensbasierten Fallback‑Optionen bereitgestellt.

In einem kontrollierten Benchmark konnte ITR die Kontext‑Token pro Schritt um 95 % reduzieren, die korrekte Tool‑Routierung um 32 % relativ verbessern und die Gesamtkosten einer Episode um 70 % senken – im Vergleich zu einem monolithischen Ansatz. Diese Einsparungen ermöglichen es Agenten, 2 bis 20 Mal mehr Schleifen innerhalb der Kontextgrenzen auszuführen.

Die Vorteile kumulieren mit der Anzahl der Agenten‑Schritte, was ITR besonders wertvoll für lang laufende autonome Agenten macht. Das Papier liefert zudem detaillierte Methodik, Evaluationsprotokolle, Ablationsstudien und praktische Anleitungen für den Einsatz in realen Systemen.