PolyNODE: Neuronale ODEs mit variabler Dimension auf M-Polyfolds

Ein neues Forschungsprojekt aus dem Bereich des geometrischen Deep Learnings hat die Grenzen herkömmlicher Neural Ordinary Differential Equations (NODEs) sprengen. Die Autoren stellen PolyNODE vor – ein Modell, das dynamische Systeme auf M-Polyfolds, also Räumen mit variabler Dimension, modelliert.

Traditionelle NODEs beschränken sich auf Flows, die auf Mannigfaltigkeiten mit fester Dimension definiert sind. Das bedeutet, dass sie nicht in der Lage sind, Datenstrukturen mit sich ändernder Dimensionalität zu verarbeiten. PolyNODE löst dieses Problem, indem es M-Polyfolds nutzt, die sowohl unterschiedliche Dimensionen als auch eine differenzierbare Struktur zulassen.

Im Rahmen der Studie wurden spezielle M-Polyfolds mit dimensionalen Engpässen konstruiert. Auf diesen wurden PolyNODE-Autoencoder trainiert, die parametrisierte Vektorfelder verwenden, um die Daten durch die Engpässe zu führen. Die Experimente zeigen, dass die Modelle nicht nur Rekonstruktionsaufgaben in diesen Räumen lösen können, sondern auch latente Repräsentationen erzeugen, die anschließend für Klassifikationsaufgaben eingesetzt werden.

Die Veröffentlichung, die unter dem arXiv-Identifikator 2602.15128v1 erscheint, markiert damit den ersten Schritt zu variablen, dimensionsunabhängigen Flussmodellen im geometrischen Deep Learning. Der Quellcode ist frei verfügbar unter https://github.com/turbotage/PolyNODE, sodass Forscher und Entwickler die Technik sofort ausprobieren und weiterentwickeln können.