Neues Framework verhindert Vergessen in neuronalen Netzen

In einer aktuellen Veröffentlichung auf arXiv wird ein innovatives Konzept für kontinuierliches Lernen vorgestellt, das das langjährige Problem des katastrophalen Vergessens in neuronalen Netzwerken adressiert. Das vorgeschlagene System kombiniert eine Fisher‑gewichtete, asymmetrische Regularisierung der Parametervarianten mit einem variationalen Lernansatz. Durch die dynamische Anpassung der Regularisierung an die Unsicherheit der Parameter wird die Stabilität des Modells deutlich erhöht.

Die Leistungsfähigkeit des Ansatzes wurde anhand der Standard‑Benchmarks SplitMNIST, PermutedMNIST und SplitFashionMNIST getestet. Im Vergleich zu etablierten Methoden wie Variational Continual Learning (VCL) und Elastic Weight Consolidation (EWC) erzielte das neue Verfahren signifikante Verbesserungen. Besonders die asymmetrische Variationsstrafe bewahrt das Wissen über aufeinanderfolgende Aufgaben hinweg und steigert die Genauigkeit.

Die experimentellen Ergebnisse zeigen, dass das Modell nicht nur die Leistung bei aktuellen Aufgaben verbessert, sondern auch die Wissensdegradation im Zeitverlauf stark reduziert. Damit bietet die Methode einen vielversprechenden Weg, das zentrale Problem des katastrophalen Vergessens in neuronalen Netzwerken nachhaltig zu lösen.