Markov-Analyse enthüllt, wann Chain-of-Thought wirklich hilft

Eine neue Studie auf arXiv (2603.00306v1) beleuchtet, warum die beliebte Chain-of-Thought (CoT)-Technik bei der Verbesserung von KI‑Reasoning nicht überall gleich wirkt. Durch die Modellierung der einzelnen Rechenschritte als Zustände eines Markov‑Kettenprozesses wird deutlich, dass die Schlüsselvariable die „Transition‑Alignment“ ist – also ob verschiedene Aufgaben dieselben Übergangswahrscheinlichkeiten zwischen den Schritten teilen.

Wenn die Übergänge über alle Schritte hinweg identisch sind, kann CoT die benötigte Anzahl an Kontext‑Beispielen drastisch reduzieren. Das bedeutet weniger Rechenaufwand und schnellere Entscheidungen. Sobald die Übergänge jedoch variieren, verschwinden diese Vorteile fast vollständig. Die Autoren zeigen zudem, wie Rauschen in den Zwischenschritten die Effektivität von CoT abschwächt.

Zur Veranschaulichung haben die Forscher synthetische Benchmarks entwickelt, die genau diese Faktoren isolieren. Die Ergebnisse bestätigen die theoretischen Vorhersagen und liefern klare Richtlinien, wann CoT sinnvoll eingesetzt werden sollte. Diese Erkenntnisse sind ein wichtiger Schritt, um KI‑Modelle gezielter und effizienter zu trainieren und einzusetzen.