Forschung
SGD zeigt seltsame Ausrichtung: Schrittgrößenanalyse enthüllt Paradox
In einer neuen Studie wird das Phänomen der „verdächtigen Ausrichtung“ bei Stochastic Gradient Descent (SGD) unter stark ill-konditionierte…
arXiv – cs.LG