Leichtgewichtige Bewertung von Zeitreihendaten mit TSFMs durch In‑Context‑Finetuning
Die neuesten Zeitreihen‑Foundation‑Modelle (TSFMs) profitieren von umfangreichem Pretraining auf riesigen, vielfältigen Datensätzen. Damit wird die Qualität der Zeitreihendaten zu einem entscheidenden Faktor für die Leistung dieser Modelle. Traditionelle Bewertungsmethoden wie Einflussfunktionen stoßen jedoch an ihre Grenzen: Sie sind rechenintensiv und verlieren häufig die zeitlichen Abhängigkeiten.
In der aktuellen Studie wird das neue Verfahren LTSV vorgestellt – eine leichtgewichtige Methode zur Bewertung von Zeitreihendaten, die auf In‑Context‑Finetuning basiert. Die Idee ist, dass das Finetuning im Kontext die Wirkung eines einzelnen Samples auf das Modell approximiert. Durch die Messung der Veränderung der Kontextverlustfunktion nach dem Finetuning erhält man eine robuste Schätzung des Beitrags jedes Datenpunkts.
Um die zeitlichen Abhängigkeiten zu berücksichtigen, nutzt LTSV eine „temporal block aggregation“, bei der Einflusswerte über überlappende Zeitfenster hinweg zusammengeführt werden. Diese Technik sorgt dafür, dass die Bewertung nicht nur lokal, sondern auch global konsistent bleibt.
Experimentelle Ergebnisse auf mehreren Zeitreihen‑Datensätzen und Modellen zeigen, dass LTSV zuverlässig und stark in der Bewertung ist, während es gleichzeitig die Rechenkosten deutlich reduziert. Die Arbeit demonstriert, dass In‑Context‑Finetuning auf TSFMs einen praktischen und effektiven Brückenschlag zwischen Datenattribution und Modellgeneralisierung im Zeitreihen‑Learning darstellt.