Intrusive Lorentz Neural Network: Rekordleistung im hyperbolischen Lernen

In vielen realen Datensätzen liegen hierarchische Strukturen verborgen, die sich besonders gut durch hyperbolische Geometrie darstellen lassen. Obwohl neuere hyperbolische neuronale Netze vielversprechende Ergebnisse liefern, bleiben viele bestehende Architekturen nur teilweise intrinsisch – sie mischen euklidische Operationen mit hyperbolischen oder nutzen extrinsische Parameterisierungen.

Das neue Intrinsic Lorentz Neural Network (ILNN) löst dieses Problem, indem es sämtliche Berechnungen vollständig im Lorentz-Modell durchführt. Im Kern steht eine neuartige Punkt-zu-Hyperfläche vollverbundene Schicht, die die klassischen euklidischen Affinitätsterm in geschlossene hyperbolische Distanzen von Merkmalen zu erlernten Lorentz-Hyperflächen ersetzt. Dadurch bleiben die Entscheidungsfunktionen stets im Einklang mit der inhärenten Krümmung.

Um die Leistung weiter zu steigern, wurden mehrere intrinsische Module entwickelt: GyroLBN, eine Lorentz-Batch-Normalisierung, die Gyro-Zentrierung mit Gyro-Skalierung kombiniert, übertrifft sowohl LBN als auch GyroBN und verkürzt die Trainingszeit. Zusätzlich wurde ein gyro-additiver Bias für die FC-Ausgabe eingeführt, ein Lorentz-Patch-Konkatenationsoperator, der den erwarteten Log-Radius über Feature-Blöcke mittels einer digamma-basierten Skala angleicht, sowie ein Lorentz-Dropout-Layer.

Umfangreiche Experimente auf CIFAR‑10/100 sowie zwei genomische Benchmarks (TEB und GUE) zeigen, dass ILNN die Spitzenleistung und den geringsten Rechenaufwand unter hyperbolischen Modellen erreicht und gleichzeitig starke euklidische Baselines übertrifft.