Neues Diagnosewerkzeug enthüllt, wie neuronale Modelle Symmetrien lernen
Wissenschaftler haben ein innovatives Diagnoseinstrument entwickelt, das aufzeigt, wie neuronale Netzwerke physikalische Symmetrien in Gleichungslösungen verinnerlichen. Das Verfahren misst die Ausbreitung von Parameterupdates zwischen symmetrisch verwandten Zuständen und nutzt dafür die gewichtete Überlappung von Verlustgradienten entlang von Gruppengeschwaden.
Durch diese Messung wird die lokale Geometrie des erlernten Verlustlandschapes untersucht und geht über herkömmliche Tests der Gleichgewichtsprüfung hinaus. Sie ermöglicht es, direkt zu beurteilen, ob die Lerndynamik physikalisch äquivalente Konfigurationen miteinander koppelt.
In einer Anwendung auf autoregressive Fluidflow‑Emulatoren zeigte die Studie, dass die Gradientenkohärenz entlang der Symmetrieorbit die Grundlage für die Generalisierung über Symmetrietransformationen bildet. Das Verfahren weist zudem darauf hin, wann das Training einen symmetriekompatiblen Ansatz auswählt.
Damit bietet die neue Technik Forschern ein praktisches Werkzeug, um zu prüfen, ob Ersatzmodelle die Symmetrieeigenschaften bekannter Lösungsoperatoren tatsächlich internalisiert haben.