LLM-Agenten mit Modell-First-Reasoning reduzieren Halluzinationen durch Modellierung

In der Welt der großen Sprachmodelle (LLMs) ist die Planung komplexer Aufgaben ein echtes Problem: Mehrschrittige Abläufe führen häufig zu Regelverstößen und inkonsistenten Lösungen. Traditionelle Ansätze wie Chain‑of‑Thought und ReAct verfolgen zwar einen nachvollziehbaren Denkweg, sie verfolgen jedoch nur implizite Zustandsverfolgung und verzichten auf eine klare Problem‑Repräsentation.

Aus diesem Grund haben Forscher das Konzept „Model‑First Reasoning“ (MFR) entwickelt. Dabei wird die Aufgabe zunächst in zwei Phasen angegangen: Zuerst erstellt das Modell ein explizites Problem‑Schema – es definiert Entitäten, Zustandsvariablen, Aktionen und sämtliche Einschränkungen. Erst danach wird ein konkreter Lösungsplan generiert.

Die Ergebnisse sprechen für sich: In einer Vielzahl von Planungsdomänen – von medizinischer Terminplanung über Routenfindung bis hin zu Ressourcenallokation, Logikrätseln und der Synthese von Prozeduren – führt MFR zu deutlich weniger Regelverstößen und zu qualitativ besseren Lösungen als die etablierten Chain‑of‑Thought‑ und ReAct‑Methoden.

Durch gezielte Ablation‑Studien wurde klar, dass die explizite Modellierungsphase der entscheidende Faktor ist. Die Studie legt nahe, dass viele Fehler von LLMs nicht an fehlender Rechenleistung liegen, sondern an unzureichender Repräsentation des Problems.

Damit zeigt MFR, dass ein klar strukturiertes Modellieren der Schlüssel zu robusten und nachvollziehbaren KI‑Agenten ist. Alle verwendeten Prompt‑Sets, Evaluationsverfahren und Datensätze sind vollständig dokumentiert, sodass die Ergebnisse leicht reproduziert werden können.