Metakognition steigert Sprachmodelle: Sie übertreffen spezialisierte Logikmodelle

Große Sprachmodelle (LLMs) sind schnell und flexibel, doch bei strenger Logik oder Einschränkungen stoßen sie oft an ihre Grenzen. Spezialisierte Large Reasoning Models (LRMs) können komplexe, schrittweise Argumentationen bewältigen, sind dafür aber rechenintensiv und langsamer.

Um diese Schwächen zu kompensieren, wurde die SOFAI‑Architektur (Slow and Fast AI) erweitert zu SOFAI‑LM. Dabei arbeitet ein schneller LLM zusammen mit einem langsamen, aber leistungsfähigeren LRM, wobei ein metakognitives Modul die Leistung des LLM überwacht und gezieltes, iteratives Feedback mit relevanten Beispielen liefert. Dadurch kann der LLM seine Lösungen schrittweise verfeinern ohne zusätzliche Feinabstimmung.

In umfangreichen Tests zu Graph‑Färbung und Code‑Debugging zeigte sich, dass dieser Feedback‑Ansatz die Problemlösungsfähigkeit des LLM deutlich steigert. In vielen Fällen erreicht oder übertrifft er die Leistung von eigenständigen LRMs, während die Rechenzeit deutlich geringer bleibt. Wenn das LLM und das Feedback allein nicht ausreichen, wird der LRM mit den während des Feedback‑Loops gesammelten Informationen aktiviert, was die Gesamtleistung weiter verbessert.