MeTok: Revolutionäre Tokenisierung für präzises Niederschlagsvorhersagen

Transformer‑basierte Modelle haben die Wettervorhersage in den letzten Jahren stark vorangebracht, doch die bisherige position‑zentrierte Tokenisierung passt nicht zu der Natur meteorologischer Phänomene, die von synergistischen Wechselwirkungen zwischen vielen Elementen geprägt ist. Das neue Verfahren MeTok löst dieses Problem, indem es meteorologische Daten in verteilungszentrierte Token umwandelt und ähnliche Features räumlich gruppiert.

Durch die neu entwickelte Hyper‑Aligned Grouping Transformer (HyAGTransformer) wird die Robustheit gegenüber extremen Niederschlagsmustern deutlich erhöht. Der Grouping Attention-Mechanismus nutzt MeTok, um selbstständig Features aus unterschiedlichen Niederschlagsmustern zu lernen, während das Neighborhood Feed‑Forward Network benachbarte Gruppen integriert und so den Kontext verstärkt. Diese Kombination verbessert die Diskriminierbarkeit der Patch‑Einbettungen erheblich.

In Experimenten mit dem ERA5‑Datensatz für 6‑Stunden‑Vorhersagen konnte MeTok die IoU‑Metrik bei der Vorhersage extremer Niederschläge um mindestens 8,2 % steigern – ein deutlicher Vorteil gegenüber bestehenden Methoden. Darüber hinaus zeigt das Modell, dass mehr Trainingsdaten und größere Parameterzahlen die Leistung weiter erhöhen, was seine Skalierbarkeit, Stabilität und Überlegenheit gegenüber traditionellen Ansätzen unterstreicht.