WSBD: Neuer Optimierer für Quantenneuronale Netze beschleunigt Training um 64 %
Die Schulung von Quantenneuronalen Netzen (QNNs) ist bislang stark durch den hohen Rechenaufwand für Gradientenabschätzungen und das sogenannte barren plateau, bei dem Optimierungsflächen nahezu flach werden, eingeschrä…
- Die Schulung von Quantenneuronalen Netzen (QNNs) ist bislang stark durch den hohen Rechenaufwand für Gradientenabschätzungen und das sogenannte barren plateau, bei dem O…
- Mit dem neuen Optimierer Weighted Stochastic Block Descent (WSBD) wird dieses Problem angegangen.
- WSBD nutzt eine dynamische, parameter‑weise Freezing‑Strategie: Durch einen gradienzbasierten Wichtigkeitsscore werden weniger einflussreiche Parameter identifiziert und…
Die Schulung von Quantenneuronalen Netzen (QNNs) ist bislang stark durch den hohen Rechenaufwand für Gradientenabschätzungen und das sogenannte barren plateau, bei dem Optimierungsflächen nahezu flach werden, eingeschränkt. Mit dem neuen Optimierer Weighted Stochastic Block Descent (WSBD) wird dieses Problem angegangen.
WSBD nutzt eine dynamische, parameter‑weise Freezing‑Strategie: Durch einen gradienzbasierten Wichtigkeitsscore werden weniger einflussreiche Parameter identifiziert und vorübergehend eingefroren. Dadurch sinkt die Anzahl der notwendigen Vorwärtsdurchläufe pro Trainingsschritt erheblich, während die volle Ausdruckskraft des Modells erhalten bleibt. Im Gegensatz zu herkömmlichen Pruning‑ oder Schicht‑Freezing‑Methoden passt sich WSBD während des gesamten Trainingsprozesses flexibel an.
In umfangreichen Tests konvergiert WSBD im Durchschnitt 63,9 % schneller als Adam beim klassischen Problem der Grundzustandsenergie. Der Vorteil wächst mit zunehmender QNN‑Größe. Zusätzlich wurde ein formales Konvergenztheorem für WSBD veröffentlicht, das zeigt, dass parameter‑weise Freezing traditionelle schichtweise Ansätze in QNNs übertrifft.
Weitere Informationen und den Quellcode finden Sie auf der Projektseite: https://github.com/Damrl-lab/WSBD-Stochastic-Freezing-Optimizer.
Welche Linse du auf diese Meldung legen solltest
Dieses Thema ist relevant, weil es zeigt, wie sich KI-Produkte, Modelle oder Rahmenbedingungen in der Praxis verschieben.
Achte zuerst darauf, was sich fuer Nutzer, Builder oder Unternehmen konkret veraendert und ob daraus ein nachhaltiger Trend entsteht.