WinnowRAG: Effektive Filterung von RAG‑Dokumenten für präzisere Antworten

Retrieval‑Augmented Generation (RAG) erweitert große Sprachmodelle, indem es externe Wissensquellen nutzt, um aktuelle oder fachspezifische Informationen bereitzustellen. Doch je mehr Dokumente einbezogen werden, desto höher steigt das Risiko von irrelevanten oder irreführenden Inhalten, die die Genauigkeit der generierten Antworten mindern.

WinnowRAG löst dieses Problem mit einem zweistufigen Ansatz. In der ersten Phase werden die abgerufenen Dokumente mithilfe einer query‑aware‑Clustering‑Methode in thematisch zusammenhängende Gruppen unterteilt. Jede Gruppe wird dann einem eigenen LLM‑Agenten zugewiesen, der eine individuelle Antwort generiert. In der zweiten Phase bewertet ein kritischer LLM die Ergebnisse aller Agenten und trennt systematisch nützliche von störenden Dokumenten – ein Prozess, den die Autoren „winnowing“ nennen. Durch zwei strategische Merge‑Techniken werden wertvolle Informationen erhalten, während unerwünschte Inhalte verworfen werden.

WinnowRAG ist modellunabhängig und erfordert keine Feinabstimmung, was die Anpassung an verschiedene Aufgaben erleichtert. Umfangreiche Experimente auf realistischen Datensätzen zeigen, dass das System die Leistung von RAG deutlich übertrifft und damit einen wichtigen Schritt zur zuverlässigen Nutzung externer Wissensquellen darstellt.