LISA: Laplacian-basierte In-Context-Analyse für dynamische Zeitreihen
Wissenschaftler haben die Methode LISA (Laplacian In-context Spectral Analysis) vorgestellt, die es ermöglicht, Laplacian-basierte Zeitreihenmodelle während der Inferenz an neue Daten anzupassen – und das ausschließlich anhand eines beobachteten Präfixes.
LISA verbindet Verzögerungskoordinaten-Embeddings mit Laplacian-Spektrallernen, um Diffusionskoordinaten-Zustandsdarstellungen zu erzeugen. Ein eingefrorener, nichtlinearer Decoder liefert anschließend Vorhersagen für den nächsten Zeitschritt.
Zur Feinabstimmung werden leichte Residual-Adapter im latenten Raum eingesetzt, die entweder auf Gaußschen Prozessregressionen oder auf einem aufmerksamkeitsähnlichen Markov-Operator über Kontextfenster basieren.
In umfangreichen Experimenten zur Vorhersage und autoregressiven Rollout-Analyse zeigte LISA signifikante Verbesserungen gegenüber dem unveränderten Basismodell. Besonders bei sich verändernden Dynamiken erwies sich die Methode als äußerst vorteilhaft.
Die Arbeit verbindet damit In-Context-Adaptation mit nichtparametrischen Spektralmethoden für dynamische Systeme und eröffnet neue Perspektiven für die Echtzeit-Anpassung von Zeitreihenmodellen.