MCLR: Class Likelihood Ratio Maximization verbessert Diffusionsmodelle ohne CFG

Diffusionsmodelle haben die generative Modellierung auf ein neues Niveau gehoben, doch ihr Erfolg beruht häufig auf der sogenannten classifier‑free guidance (CFG), einer Heuristik, die während der Inferenz den Sampling‑Pfad verändert. Das neue Verfahren MCLR (Maximum Classifier‑Free Likelihood Ratio) zeigt, dass man die Trainingsziele dieser Modelle gezielt anpassen kann, sodass die Standard‑Sampling‑Methode ohne zusätzliche Guidance bereits vergleichbare Ergebnisse liefert.

Der Schlüssel liegt in der mangelnden Trennung zwischen Klassen, die bei herkömmlichen Diffusionsmodellen oft zu schwach ausgeprägt ist. MCLR maximiert explizit die Likelihood‑Raten zwischen verschiedenen Klassen während des Trainings. Dadurch werden die inter‑klassischen Grenzen schärfer und die generierten Bilder erhalten mehr strukturelle Kohärenz.

Experimentelle Tests belegen, dass Modelle, die mit MCLR fein‑justiert wurden, unter Standard‑Sampling die gleichen qualitativen und quantitativen Verbesserungen wie CFG‑gestützte Modelle erreichen – und das ohne die Notwendigkeit einer zusätzlichen Guidance‑Phase. Das bedeutet weniger Rechenaufwand und eine sauberere Modellarchitektur.

Darüber hinaus liefert die Arbeit eine theoretische Fundierung: Der CFG‑geführte Score ist exakt die optimale Lösung eines gewichteten MCLR‑Ziels. Diese Entdeckung schafft eine formale Gleichwertigkeit zwischen Guidance und Alignment‑Zielen und liefert damit ein mechanistisches Verständnis dafür, warum CFG funktioniert.

Mit MCLR eröffnet sich ein vielversprechender Weg, Diffusionsmodelle effizienter und transparenter zu gestalten. Die Erkenntnisse legen die Basis für zukünftige Entwicklungen, bei denen Training und Sampling nahtlos zusammenarbeiten, ohne auf heuristische Tricks angewiesen zu sein.