PeriodNet: Neue Attention-Struktur revolutioniert Zeitreihenprognosen

Ein neues Modell namens PeriodNet nutzt die Kraft des Attention-Mechanismus, um Zeitreihenprognosen deutlich zu verbessern. Während Attention in der natürlichen Sprachverarbeitung bereits große Erfolge erzielt hat, war seine Anwendung in der Vorhersage von Zeitreihen bislang nicht optimal. PeriodNet adressiert dieses Problem mit einer speziell entwickelten Architektur, die periodische Muster und globale Abhängigkeiten gezielt erfasst.

Das Herzstück von PeriodNet ist die periodische Attention, ergänzt durch eine sparsante Variante, die sich auf benachbarte Perioden konzentriert. Durch diese Technik werden lokale Eigenschaften und wiederkehrende Muster effizienter extrahiert. Zusätzlich wird ein iteratives Gruppierungsverfahren eingeführt, das die Redundanz zwischen Variablen reduziert und so die Modellkomplexität senkt.

Um die gewonnenen Features optimal zu nutzen, wurde die klassische Transformer-Architektur komplett neu gestaltet. Ein sogenannter Period Diffuser sorgt für präzise Vorhersagen über mehrere Perioden hinweg. In umfangreichen Tests auf acht unterschiedlichen Datensätzen konnte PeriodNet die Leistung von sechs führenden Modellen in Bezug auf mittlere quadratische Fehler (MSE) und mittlere absolute Fehler (MAE) deutlich übertreffen. Besonders bei Zeitreihen mit einer Länge von 720 Einheiten erzielte das Modell eine relative Verbesserung von 22 % gegenüber den besten Vergleichsmodellen.