XGBoost-Modell verbessert Qualitätsvorhersage bei Retrieval‑gestützter Textgenerierung

Mit der rasanten Weiterentwicklung großer Sprachmodelle gewinnt die Retrieval‑Enhanced‑Generation (RAG) immer mehr an Bedeutung, weil sie externe Wissensquellen einbindet und so die Genauigkeit der generierten Inhalte steigert. Die Qualität des Endergebnisses hängt jedoch stark von der Relevanz der abgerufenen Dokumente ab – wenn die Treffer wenig relevant oder mit Störinformationen gefüllt sind, verfälscht das die Antwort.

In der vorliegenden Studie wird ein XGBoost‑Regressionsmodell vorgestellt, das auf gezielter Feature‑Engineering‑Strategie und Partikelschwarm‑Optimierung basiert. Durch die Analyse der Korrelationen zeigt sich, dass die Antwortqualität (answer_quality) stark positiv mit der Dokumentenrelevanz (doc_relevance) zusammenhängt (r = 0,66). Gleichzeitig weisen semantische Ähnlichkeit, Redundanz und Diversität negative Korrelationen von –0,89 bzw. –0,88 auf, was einen klaren Trade‑off zwischen Ähnlichkeit/Redundanz und Vielfalt verdeutlicht.

Vergleichende Experimente mit Entscheidungsbäumen, AdaBoost und anderen Modellen demonstrieren, dass das VMD‑PSO‑BiLSTM‑Modell in allen Bewertungsmetriken überlegen ist. Es erzielt deutlich niedrigere MSE, RMSE, MAE und MAPE und weist einen höheren R²‑Wert auf, was auf eine überlegene Vorhersagegenauigkeit, Stabilität und Interpretationsfähigkeit hinweist. Diese Ergebnisse unterstreichen das Potenzial von XGBoost in Kombination mit Partikelschwarm‑Optimierung, um die Qualität von Retrieval‑gestützten Generationssystemen zuverlässig vorherzusagen und zu verbessern.