EXACT: Personalisierte Textgenerierung in Echtzeit dank erklärbarer Attribute

Ein neues Verfahren namens EXACT (Explicit Attribute-Guided Decoding-Time Personalization) verspricht, die Anpassung großer Sprachmodelle an individuelle Nutzerpräferenzen in Echtzeit zu revolutionieren. Statt auf komplexe Trainingsverfahren zurückzugreifen, nutzt EXACT ein kleines, aber aussagekräftiges Set von Attributen, die leicht verständlich sind und die Präferenzen der Nutzer widerspiegeln.

Im Offline‑Bereich identifiziert EXACT zunächst für jeden Nutzer die Attribute, die seine bevorzugten Antworten am besten erklären. Dazu maximiert das System die Wahrscheinlichkeit, dass die vom Nutzer favorisierten Antworten generiert werden, und wählt daraus ein individuelles Attribut‑Set aus. Dieser Schritt sorgt dafür, dass die Modellanpassung exakt auf die tatsächlichen Präferenzen abgestimmt ist.

Während der Online‑Inference sucht EXACT dann nach den semantisch relevantesten Attributen für die aktuelle Eingabeaufforderung. Diese Attribute werden in den Kontext des Modells eingefügt, wodurch die Textgenerierung gezielt an die Bedürfnisse des Nutzers angepasst wird. Der Ansatz ist dabei flexibel genug, um sich an unterschiedliche Aufgaben und wechselnde Präferenzen anzupassen.

Die Autoren liefern zudem theoretische Approximationsergebnisse, die unter milden Annahmen zeigen, dass die Ähnlichkeitsbasierte Abrufmethode die Verschiebung von Präferenzen zwischen verschiedenen Kontexten wirksam kompensiert. Dadurch werden Konflikte zwischen widersprüchlichen Präferenzen vermieden und die Konsistenz der personalisierten Antworten verbessert.

In umfangreichen Experimenten mit menschlich annotierten Präferenzdatensätzen konnte EXACT die Leistung gegenüber starken Baselines deutlich steigern. Die Ergebnisse zeigen sowohl eine höhere Präferenzmodellierungsgenauigkeit als auch eine verbesserte Qualität der personalisierten Texte, was die Vielseitigkeit und Effektivität des Ansatzes unterstreicht.