Neues Verfahren nutzt Manifold‑Sampling zur Erkennung von Halluzinationen in LLMs

In der Welt der großen Sprachmodelle (LLMs) ist das Phänomen der Halluzination – das Erzeugen von faktisch falschen oder nicht belegbaren Inhalten – ein zentrales Problem. Frühere Ansätze haben sich auf Dekodierungsstrategien, Retrieval‑Augmentation oder supervised Fine‑Tuning konzentriert, während neuere Studien zeigen, dass die Auswahl von In‑Context‑Learning‑Demonstrationen (ICL) die Faktenverlässlichkeit stark beeinflussen kann.

Das neue Verfahren MB‑ICL geht einen Schritt weiter: Es nutzt latente Repräsentationen, die aus eingefrorenen LLMs extrahiert werden, um die lokale Manifold‑Struktur und prototypische Geometrie der Klassen zu modellieren. Anstatt sich nur auf lexikalische oder Embedding‑Ähnlichkeiten zu stützen, wählt MB‑ICL Demonstrationen anhand ihrer Nähe zu lernenden Prototypen aus. Auf den Benchmarks FEVER und HaluEval übertrifft MB‑ICL die üblichen ICL‑Auswahlmethoden in den meisten getesteten Szenarien, insbesondere bei Dialog- und Zusammenfassungstexten.

Darüber hinaus bleibt die Methode robust gegenüber Temperaturänderungen und Modellvariationen, was sie gegenüber heuristischen Retrieval‑Strategien stabiler macht. Während in bestimmten Frage‑Antwort‑Regimen die klassische lexikalische Retrieval‑Methode noch konkurrenzfähig ist, demonstriert MB‑ICL, dass eine manifoldbasierte Prototypenauswahl eine zuverlässige und zugleich trainingsleichte Lösung für die Halluzinationsdetektion darstellt – ohne dass das zugrunde liegende Modell verändert werden muss.