LATTE: Neue Methode reduziert Kosten und verbessert Kunden-Embedding in Banken
In der Finanzwelt ist die Analyse von Kundenkommunikationen entscheidend, um individuelle Bedürfnisse zu erkennen und maßgeschneiderte Angebote zu entwickeln. Doch die Verarbeitung langer Kommunikationssequenzen mit großen Sprachmodellen (LLMs) ist bislang teuer und ineffizient. Das neue Forschungsprojekt LATTE (Learning Aligned Transactions and Textual Embeddings) löst dieses Problem, indem es die Stärken von LLMs mit einem kontrastiven Lernansatz kombiniert.
LATTE nutzt kurze, prägnante Prompts, die aus den wichtigsten Verhaltensmerkmalen eines Kunden extrahiert werden. Diese Prompts werden von einem eingefrorenen LLM eingebettet und dienen als Supervision für einen kontrastiven Verlust. Dadurch werden die Roh-Event-Embeddings mit den semantischen Embeddings des LLMs ausgerichtet, ohne die gesamte Kommunikationshistorie direkt in das Modell einzuspeisen.
Der Ansatz reduziert die Eingabemenge und die Rechenkosten erheblich, während er gleichzeitig die Qualität der Kundenrepräsentationen verbessert. In Experimenten mit realen Finanzdatensätzen übertraf LATTE die führenden Methoden zur Sequenzdarstellung und bleibt dabei in zeitkritischen Umgebungen einsetzbar. Diese Entwicklung verspricht, die Effizienz von Kundenanalysen in Banken nachhaltig zu steigern.