Neue Initialisierung verbessert Gradientenkontrolle bei sinusoidalen Netzwerken
Forscher haben eine neue Initialisierungsmethode für neuronale Netzwerke mit sinusoidalen Aktivierungsfunktionen wie SIREN vorgestellt. Die Technik zielt darauf ab, Gradientenschwankungen zu steuern und die Skalierung d…