LLM-gestützte FiCoTS revolutioniert Zeitreihenprognosen

arXiv – cs.LG Original ≈2 Min. Lesezeit
Anzeige

Ein neues arXiv-Papier (v1, 25.12.2025) präsentiert FiCoTS, ein innovatives Modell, das die Leistungsfähigkeit großer Sprachmodelle (LLMs) gezielt für die Vorhersage von Zeitreihen nutzt. Während bisherige Ansätze LLMs als Hauptvorhersage-Engine einsetzen, schlägt FiCoTS einen alternativen „LLM-as-Enhancer“-Paradigma vor, bei dem das LLM ausschließlich zur Textverarbeitung dient und die Zeitreiheninformation dadurch ergänzt wird.

Der Hauptgrund für diesen Ansatz liegt in der semantischen Diskrepanz zwischen numerischen Zeitreihen und Textdaten. LLMs verstehen Text sehr gut, doch die direkte Übertragung dieser Fähigkeiten auf reine Zahlenreihen ist schwierig. FiCoTS adressiert dieses Problem, indem es die Stärken des LLMs in der Textinterpretation nutzt, um die Zeitreihenanalyse zu verbessern, ohne die Modellkomplexität unnötig zu erhöhen.

Das Modell gliedert sich in drei progressive Ebenen: Zunächst wird im Token‑Level ein dynamisches heterogenes Graphen‑Modul aufgebaut, das Rauschen filtert und Zeitreihen‑Patches mit relevanten Text‑Tokens ausrichtet. Im Feature‑Level kommt ein globaler Cross‑Attention‑Mechanismus zum Einsatz, der jede Zeitreihen‑Variable mit passenden textuellen Kontexten verbindet. Abschließend fusioniert ein gated Netzwerk die beiden Modalitäten auf Entscheidungsebene, um robuste Vorhersagen zu liefern. Diese fein‑zu‑grobe Interaktion ermöglicht eine tiefere und gleichzeitig effiziente Nutzung von multimodalen Daten.

Die Ergebnisse zeigen, dass FiCoTS die Genauigkeit von Zeitreihenprognosen signifikant steigert und dabei die Vorteile von LLMs optimal nutzt. Dieser Ansatz eröffnet neue Perspektiven für die Integration von Sprachmodellen in datenintensive Anwendungen und legt den Grundstein für weiterführende Forschungen im Bereich multimodaler Zeitreihenanalyse.

Ähnliche Artikel