Neue MLP-Architektur MDMLP-EIA setzt Maßstäbe in Zeitreihenprognosen

Die neueste Veröffentlichung auf arXiv (Arbeitstitel MDMLP-EIA: Multi-domain Dynamic MLPs with Energy Invariant Attention for Time Series Forecasting) präsentiert eine bahnbrechende MLP-basierte Methode, die die Leistungsfähigkeit von Transformern bei deutlich weniger Parametern und höherer Robustheit übertrifft. Durch gezielte Innovationen adressiert MDMLP-EIA zentrale Schwächen herkömmlicher MLP-Ansätze, wie den Verlust schwacher saisonaler Signale, Kapazitätsengpässe bei gewichtsteilenden Modellen und unzureichende Kanalfusion.

Die erste Neuerung ist ein adaptiver, dualer-Domain-Saison-MLP, der saisonale Muster in starke und schwache Komponenten trennt. Dabei wird eine adaptive, nullinitialisierte Kanalfusion eingesetzt, die Rauschen minimiert und gleichzeitig die Vorhersagen effektiv integriert. Diese Technik sorgt dafür, dass selbst schwache saisonale Signale nicht verloren gehen.

Die zweite Innovation ist ein energie-invariantes Aufmerksamkeitsmechanismus, der sich dynamisch auf unterschiedliche Feature-Kanäle innerhalb von Trend- und Saisonvorhersagen fokussiert. Durch die Aufrechterhaltung einer konstanten Gesamtsignalenergie bleibt das Modell im Einklang mit dem Decompositions‑Prediction‑Reconstruction‑Framework und gewinnt an Widerstandsfähigkeit gegenüber Störungen.

Schließlich wird ein dynamischer Kapazitätsanpassungsmechanismus für kanalunabhängige MLPs eingeführt. Dieser skaliert die Neuronenzahl proportional zur Quadratwurzel der Kanalanzahl, sodass die Modellkapazität mit zunehmender Kanalzahl wächst und Engpässe vermieden werden. Umfangreiche Experimente an neun Benchmark‑Datensätzen zeigen, dass MDMLP-EIA sowohl in der Vorhersagegenauigkeit als auch in der Recheneffizienz den aktuellen Stand der Technik übertrifft.