Lion-Optimierer: Neue Konvergenzrate in zentralen und verteilten Systemen
In einer aktuellen Veröffentlichung auf arXiv wird die Konvergenz des Lion‑Optimierers detailliert untersucht. Unter den üblichen Annahmen erreicht der Standard‑Lion eine Rate von O(d¹ᐟ² T⁻¹ᐟ⁴), wobei d die Problemdimension und T die Iterationszahl bezeichnet. Durch die Einführung einer Varianz‑Reduktion verbessert sich die Rate auf O(d¹ᐟ² T⁻¹ᐟ³).
