LISA: Laplacian-basierte In-Context-Analyse für dynamische Zeitreihen

arXiv – cs.LG Original ≈1 Min. Lesezeit
Anzeige

Wissenschaftler haben die Methode LISA (Laplacian In-context Spectral Analysis) vorgestellt, die es ermöglicht, Laplacian-basierte Zeitreihenmodelle während der Inferenz an neue Daten anzupassen – und das ausschließlich anhand eines beobachteten Präfixes.

LISA verbindet Verzögerungskoordinaten-Embeddings mit Laplacian-Spektrallernen, um Diffusionskoordinaten-Zustandsdarstellungen zu erzeugen. Ein eingefrorener, nichtlinearer Decoder liefert anschließend Vorhersagen für den nächsten Zeitschritt.

Zur Feinabstimmung werden leichte Residual-Adapter im latenten Raum eingesetzt, die entweder auf Gaußschen Prozessregressionen oder auf einem aufmerksamkeitsähnlichen Markov-Operator über Kontextfenster basieren.

In umfangreichen Experimenten zur Vorhersage und autoregressiven Rollout-Analyse zeigte LISA signifikante Verbesserungen gegenüber dem unveränderten Basismodell. Besonders bei sich verändernden Dynamiken erwies sich die Methode als äußerst vorteilhaft.

Die Arbeit verbindet damit In-Context-Adaptation mit nichtparametrischen Spektralmethoden für dynamische Systeme und eröffnet neue Perspektiven für die Echtzeit-Anpassung von Zeitreihenmodellen.

Ähnliche Artikel