RAG: Neue Studie zeigt Lücken in klinischer Entscheidungsfindung von LLMs

Eine aktuelle Veröffentlichung auf arXiv beleuchtet ein kritisches Problem bei der Nutzung von Retrieval‑Augmented Generation (RAG) in der Medizin: Der Zugriff auf die richtige Evidenz garantiert nicht, dass große Sprachmodelle (LLMs) daraus korrekt ableiten. Besonders in klinischen Kontexten, wo Entscheidungen strikt nach Protokollen erfolgen müssen, kann das ein ernstes Risiko darstellen.

Die Forscher haben die Lücke zwischen Informationsabruf und logischem Schlussfolgern anhand der Richtlinien zur Written Exposure Therapy (WET) untersucht. Dabei wurden die Antworten der Modelle auf von Fachärzten geprüfte Fragen analysiert. Trotz der Bereitstellung autoritativer Textpassagen blieben Fehler in den Ausgaben bestehen, was die Notwendigkeit einer zusätzlichen Qualitätskontrolle unterstreicht.

Um diese Problematik zu adressieren, schlagen die Autoren ein neues Evaluationsframework vor, das Genauigkeit, Konsistenz und Treue der Argumentation misst. Die Ergebnisse zeigen, dass RAG zwar die Ausgabequalität einschränken kann, jedoch eine sichere Implementierung nur möglich ist, wenn das logische Denken der Modelle ebenso streng geprüft wird wie die Abrufgenauigkeit.