Spektrale Regularisierung verbessert Diffusionsmodelle

Diffusionsmodelle werden üblicherweise mit punktweisen Rekonstruktionszielen trainiert, die die spektrale und mehrskalige Struktur natürlicher Signale vernachlässigen. In einer neuen Studie wurde ein Loss‑Level‑Framework entwickelt, das differenzierbare Fourier‑ und Wavelet‑Domain‑Verluste einführt, ohne den Diffusionsprozess, die Modellarchitektur oder die Sampling‑Methode zu verändern.

Die eingeführten Regularisierer wirken als weiche induktive Vorurteile, die ein ausgewogenes Frequenzverhältnis und kohärente mehrskalige Strukturen in den generierten Samples fördern. Dadurch erhalten die Modelle ein besseres Verständnis für die komplexen Frequenzmuster, die in realen Bildern und Audiosignalen vorkommen.

Das Verfahren ist vollständig kompatibel mit etablierten Formulierungen wie DDPM, DDIM und EDM und verursacht nur einen vernachlässigbaren Rechenaufwand. In umfangreichen Experimenten zu Bild- und Audiogenerierung konnten die Autoren konsistente Qualitätsverbesserungen nachweisen, wobei die größten Fortschritte bei hochauflösenden, unbedingten Datensätzen erzielt wurden, bei denen feine Strukturen besonders schwierig zu modellieren sind.