LUMOS stärkt federierte sequentielle Empfehlungen – LLMs liefern neue Ergebnisse

Federierte sequentielle Empfehlungssysteme (FedSeqRec) ermöglichen die Vorhersage des nächsten Items, ohne dass Nutzerdaten zentralisiert werden. In der Praxis leiden die Modelle jedoch häufig unter fragmentierten, verrauschten und homogenen Interaktionsprotokollen, die auf einzelnen Geräten gespeichert sind. Traditionelle Ansätze versuchen, diese Schwächen durch manuelle Datenaugmentation oder zusätzliche serverseitige Einschränkungen zu kompensieren, was entweder die semantische Vielfalt begrenzt oder den Systemaufwand erhöht.

Mit der neuen Architektur LUMOS wird dieses Problem anders angegangen: Auf jedem Gerät ruft das System ein lokales Large Language Model (LLM) auf, um drei ergänzende Sequenzvarianten aus der Nutzerhistorie zu erzeugen. Erstens werden zukunftsorientierte Pfade erstellt, die plausible Verhaltensfortsetzungen simulieren. Zweitens werden semantisch äquivalente Umschreibungen generiert, die die Nutzerabsicht beibehalten, aber die Interaktionsmuster diversifizieren. Drittens entstehen preference‑inconsistente Gegenfakten, die als informative Negative dienen. Diese drei Ansichten werden anschließend im federierten Backbone gemeinsam kodiert und durch ein dreifaches kontrastives Optimierungsverfahren trainiert, wodurch reichhaltigere Repräsentationen entstehen, ohne sensible Daten preiszugeben.

Experimentelle Tests auf drei öffentlichen Benchmarks zeigen, dass LUMOS konsistente Verbesserungen bei HR@20 und NDCG@20 gegenüber führenden zentralen und federierten Baselines erzielt. Die Kombination aus lokalem LLM‑Support und kontrastivem Lernen demonstriert damit, wie semantisch fundierte Datenaugmentation die Qualität federierter Empfehlungssysteme nachhaltig steigern kann.