<h1>Embedding-basierte Halluzinations-Erkennung in RAG-Systemen: Grenzen der semantischen Illusion</h1> <p>Retrieval-Augmented Generation (RAG)-Systeme bleiben trotz der Einbindung von Suchergebnissen anfällig für Halluzinationen. Aktuelle Erkennungsansätze stützen sich vor allem auf semantische Ähnlichkeit und Natural Language Inference (NLI), doch ihre fundamentalen Grenzen wurden bislang nicht systematisch untersucht.</p> <p>In einer neuen Studie wenden die Autoren die Konfidenzvorhersage (conformal pred