Neuro-Symbolisches Dual-Memory-Framework verbessert Langzeit-LLM-Agenten

Große Sprachmodelle (LLMs) zeigen großes Potenzial bei Aufgaben mit langen Entscheidungswegen, etwa bei physischer Manipulation oder Webinteraktion. In der Praxis geraten Agenten jedoch häufig in endlose Trial‑and‑Error‑Schleifen oder verlieren den Fokus auf das eigentliche Ziel, wenn die Umgebung komplex wird.

Die Autoren identifizieren zwei zentrale Fehlerquellen: den „globalen Progress Drift“, bei dem die Agenten von ihrem langfristigen Plan abweichen, und die „lokale Feasibility Violation“, bei der einzelne Schritte logisch unmöglich sind. Traditionelle Ansätze versuchen, beide Probleme gleichzeitig mit einem einzigen Paradigma zu lösen, obwohl sie unterschiedliche Anforderungen haben – semantische Planung versus strenge logische Validierung.

Um diese Diskrepanz zu überwinden, stellen die Forscher ein neuro‑symbolisches Dual‑Memory‑Framework vor. Dabei werden während der Inferenz zwei Speichermechanismen gleichzeitig eingesetzt: ein neuronaler Progress‑Memory extrahiert semantische Leitplanken aus erfolgreichen Pfaden, um die globale Aufgabenfortschritt zu steuern; ein symbolischer Feasibility‑Memory nutzt aus fehlgeschlagenen Übergängen generierte Python‑Verifikationsfunktionen, um jeden Schritt strikt logisch zu prüfen.

Experimentelle Ergebnisse zeigen, dass das neue System die bestehenden Spitzenmodelle auf den Benchmark‑Suiten ALFWorld, WebShop und TextCraft deutlich übertrifft. Damit demonstriert die Arbeit, dass die Trennung von semantischer Fortschrittsführung und logischer Durchführbarkeit entscheidend für die Leistungsfähigkeit von LLM‑Agenten in langfristigen Szenarien ist.