ImpRIF: Stärkeres implizites Denken verbessert komplexe Befehlsausführung

Mit der zunehmenden Komplexität von Anwendungen, die große Sprachmodelle (LLMs) einsetzen, steigt auch der Bedarf an zuverlässigen Fähigkeiten zur Ausführung komplexer Anweisungen. Ein tiefes Verständnis der Anweisung selbst – insbesondere der versteckten Logik, die zwischen den Zeilen verborgen ist – gilt als entscheidend, um die Befolgen von Anweisungen zu optimieren.

Im Fokus stehen Anweisungen, die implizites Denken, verschachtelte logische Beziehungen und mehrere gleichzeitig geltende Einschränkungen erfordern. Um diese Herausforderungen zu meistern, präsentiert das Team ImpRIF, ein Verfahren, das LLMs dabei unterstützt, die latente Argumentationsstruktur von Anweisungen besser zu erfassen.

ImpRIF formalisiert komplexe Anweisungen als überprüfbare Argumentationsgraphen. Diese Graphen ermöglichen eine programmatische Verifikation und eine graphgesteuerte „Chain-of-Thought“-Rechnung. Auf dieser Basis werden umfangreiche Datensätze für Einzel- und Mehrfachdurchläufe generiert, das Modell mit graphbasiertem Feintuning trainiert und anschließend mittels Reinforcement Learning gezielt dazu gebracht, entlang des Graphen zu denken.

In fünf Benchmarks zur komplexen Befehlsausführung übertrifft das ImpRIF-gestützte Modell die Basisversionen deutlich. Die Ergebnisse zeigen, dass die Stärkung impliziter Denkfähigkeiten die Fähigkeit von LLMs, komplexe Anweisungen zu befolgen, signifikant verbessert. Das Projekt wird in Kürze als Open‑Source‑Software veröffentlicht.