Adaptive Lernratenplanung nach Verluständerungen beschleunigt Konvergenz
In einer neuen Studie aus dem arXiv-Repository wird der Scheduler GreedyLR vorgestellt, der die Lernrate während des Trainings dynamisch an die aktuellen Verluständerungen anpasst. Im Gegensatz zu den weit verbreiteten…