CAR: Dynamische Dokumentenauswahl verbessert Retrieval-Augmented Generation
Retrieval-Augmented Generation (RAG) nutzt externe Dokumente, um große Sprachmodelle mit aktuellem Wissen zu versorgen. Dabei ist die Anzahl der abgerufenen Texte entscheidend: Für präzise Fragen reicht oft ein kleines, hochrelevantes Set, während breitere Anfragen mehr Kontext benötigen. Das herkömmliche, feste Top‑k‑Retrieval kann diese Variabilität nicht berücksichtigen und führt häufig zu unzureichendem oder überflüssigem Kontext.