CiMRAG: Noise‑resistent domänenadap Retrieval‑Augmented Generation für Edge‑LLMs
Personalisierte virtuelle Assistenten, die auf großen Sprachmodellen (LLMs) laufen, gewinnen zunehmend an Bedeutung – besonders wenn sie auf Edge‑Geräten betrieben werden. Dabei spielt Retrieval‑Augmented Generation (RAG) eine zentrale Rolle, indem sie relevante Profil‑Daten abruft und maßgeschneiderte Antworten generiert. Doch die rasante Zunahme von Nutzerdaten, wie Interaktionen und Updates, stellt die Effizienz von RAG auf Edge‑Plattformen vor große Herausforderungen.