Ada-MoGE: Adaptive Gaussian Mixture of Experts verbessert Zeitreihenprognosen
Die neue Methode Ada-MoGE (Adaptive Mixture of Gaussian Experts) löst ein langjähriges Problem in der Vorhersage von multivariaten Zeitreihen: die sich ständig verändernde Frequenzverteilung der Daten. Durch die dynamische Anpassung der Expertenzahl kann das Modell nun präziser auf die aktuellen Frequenzmuster reagieren.
Traditionelle Mixture-of-Experts-Modelle setzen auf eine feste Anzahl von Experten. Diese Starrheit führt häufig zu einer Ungleichgewichtung: Zu wenige Experten lassen wichtige Informationen unbemerkt, während zu viele Experten unnötigen Rauschen hinzufügen. Ada-MoGE überwindet dieses Dilemma, indem es die Anzahl der Experten anhand der spektralen Intensität und der Frequenzantwort der Eingabedaten bestimmt.
Ein weiteres Highlight ist die Verwendung von Gaussian Band‑Pass‑Filtern, die die Frequenzdomänenmerkmale sanft zerlegen. Dadurch wird verhindert, dass durch direkte Bandabschneidung Rauschen in die Vorhersage einfließt, und die Feature‑Repräsentation wird weiter optimiert.
Die experimentellen Ergebnisse sind beeindruckend: Auf sechs öffentlichen Benchmark‑Datensätzen erzielt Ada-MoGE einen Stand‑der‑Kunst-Performance bei gleichzeitig nur 0,2 Millionen Parametern. Das Modell kombiniert damit hohe Genauigkeit mit bemerkenswerter Effizienz.
Mit Ada-MoGE eröffnet sich ein neuer Ansatz für die Analyse komplexer Zeitreihen, der sowohl in der Industrie als auch in der Forschung breite Anwendung finden kann. Die adaptive Struktur und die geringe Parameterzahl machen das Modell zu einer attraktiven Lösung für skalierbare und ressourcenschonende Prognosen.