Wie entstehen Halluzinationen in Sprachmodellen? Ein graphbasiertes Analysemodell

In großen Sprachmodellen (LLMs) tauchen häufig „Reasoning‑Halluzinationen“ auf: flüssige, aber faktisch unzutreffende Aussagen, die weder dem Kontext noch dem zugrunde liegenden Wissen entsprechen. Trotz ihrer Häufigkeit sind die genauen Mechanismen, die diese Fehler auslösen, bislang wenig verstanden.

Die neue Studie betrachtet die Vorhersage des nächsten Tokens als einen Graphensuchprozess. Knoten repräsentieren Entitäten, während die vom Modell gelernten Übergänge Kanten bilden. Kontextabhängiges Denken wird dabei als eingeschränkte Suche in einem zufällig gezogenen Teilgraphen (intrinsische Logik) beschrieben, während kontextfreie Anfragen auf bereits im Graphen verankerten Strukturen (extrinsische Logik) zurückgreifen.

Aus dieser Sicht lassen sich Halluzinationen eindeutig auf zwei fundamentale Prozesse zurückführen: Path Reuse und Path Compression. Beim Path Reuse überlagert sich frühzeitig gespeichertes Wissen über die Kontextbeschränkungen, sodass das Modell falsche, aber vertraute Pfade wählt. Im späteren Training führt Path Compression dazu, dass häufig genutzte mehrstufige Pfade zu Kurzpfaden zusammengefasst werden, was wiederum zu ungenauen, aber überzeugenden Ausgaben führt.

Diese beiden Mechanismen liefern eine einheitliche Erklärung für die beobachteten Halluzinationen und verknüpfen sie mit bekannten Verhaltensmustern in praktischen Anwendungen. Die Erkenntnisse eröffnen neue Perspektiven für die Entwicklung robusterer und vertrauenswürdigerer Sprachmodelle.