Sublineare Iterationen reichen für DDPMs – neue Erkenntnisse
Ein neues arXiv‑Veröffentlichung (2511.04844v1) zeigt, dass bei den beliebten Denoising Diffusion Probabilistic Models (DDPMs) die Anzahl der benötigten Score‑Evaluierungen nicht mehr linear, sondern sublinear in der Dimensionalität ausreicht. Der Autor führt einen neuen Integrator ein, den sogenannten denoising diffusion randomized midpoint method (DDRaM), der einen zusätzlichen zufälligen Mittelpunkt nutzt, um die stochastische Differentialgleichung genauer zu approximieren.
Durch die Anwendung des „shifted composition rule“ – eines modernen analytischen Rahmens – lässt sich beweisen, dass DDRaM unter angemessenen Glattheitsbedingungen eine Diskretisierungsqualität von etwa O(√d) erreicht. Damit ist dies der erste sublineare Komplexitätsbeweis für reine DDPM‑Sampling‑Algorithmen. Frühere Arbeiten, die ähnliche Grenzen erreichten, setzten auf ODE‑basierte Verfahren und mussten die Sampler von der Praxis abweichen.
Die Autoren ergänzen ihre theoretischen Resultate durch Experimente, die zeigen, dass DDRaM in der Praxis mit vortrainierten Bildgenerierungsmodellen gut funktioniert. Die Ergebnisse deuten darauf hin, dass die neue Methode nicht nur theoretisch, sondern auch praktisch einen bedeutenden Fortschritt in der Effizienz von Diffusionsmodellen darstellt.