Transparent Conflict Resolution verbessert Retrieval-Augmented Generation

In der Welt der großen Sprachmodelle (LLMs) ist die Kombination von internem Wissen mit externen Quellen – das Retrieval‑Augmented Generation (RAG) Paradigma – ein vielversprechender Ansatz, der jedoch häufig zu Halluzinationen, übermäßigem Vertrauen in unsichere Textausschnitte oder dem Weglassen wichtiger Kontexte führt. Das neue Framework TCR (Transparent Conflict Resolution) löst dieses Problem, indem es den Entscheidungsprozess sichtbar und steuerbar macht.

TCR arbeitet mit drei Kernkomponenten: Erstens trennt es mithilfe zweier kontrastiver Encoder die semantische Übereinstimmung von der faktischen Konsistenz. Zweitens bewertet es die „Self‑Answerability“, also das Vertrauen des Modells in sein internes Gedächtnis. Drittens werden die drei numerischen Signale über ein leichtgewichtiges Soft‑Prompt mit Signal‑zu‑Rausch‑Verhältnis‑Gewichtung an den Generator weitergegeben. Dadurch kann das Modell gezielt entscheiden, wann externe Belege herangezogen und wann das eigene Wissen genutzt werden soll.

Die Ergebnisse sind beeindruckend: Auf sieben Benchmark‑Datensätzen erhöht TCR die Konflikterkennung um 5 bis 18 F1‑Punkte, verbessert die Wiederherstellung von Wissenslücken um 21,4 Prozentpunkte und reduziert irreführende Kontext‑Überschreibungen um 29,3 Prozentpunkte – und das bei nur 0,3 % zusätzlicher Parameter. Die ermittelten Signale stimmen mit menschlichen Urteilen überein und ermöglichen zudem die Analyse von zeitlichen Entscheidungsmustern.

Mit TCR wird Retrieval‑Augmented Generation nicht nur transparenter, sondern auch deutlich zuverlässiger – ein bedeutender Schritt hin zu vertrauenswürdigen KI‑Antworten.