Neue Methode LTSM verbessert Diffusionsmodelle bei niedriger Rauschstufe

arXiv – cs.LG Original ≈1 Min. Lesezeit
Anzeige

Die Forschung auf arXiv (2602.07189v1) präsentiert Latent Target Score Matching (LTSM), eine Weiterentwicklung des Target Score Matching (TSM), die speziell für Diffusionsmodelle bei niedrigen Rauschstufen entwickelt wurde. Während das klassische Denoising Score Matching (DSM) oft mit hoher Varianz kämpft, wenn das Rauschen gering ist, bietet LTSM ein stabileres Lernziel, indem es die vorhandenen gemeinsamen Signale nutzt, um die marginalen Scores präziser zu schätzen.

In vielen praktischen Szenarien sind reine Scores der sauberen Daten nicht zugänglich, weil latente Variablen im Spiel sind. LTSM löst dieses Problem, indem es die Scores der beobachteten Daten kombiniert und dadurch eine robuste, low‑variance Supervision ermöglicht. Durch die Kombination von LTSM mit DSM entsteht ein Modell, das sowohl bei niedrigen als auch bei höheren Rauschstufen zuverlässig arbeitet.

Die Anwendung von LTSM in Simulation‑Based‑Inference‑Aufgaben hat gezeigt, dass die Methode die Varianz reduziert, die Score‑Genauigkeit erhöht und die Qualität der generierten Samples verbessert. Diese Fortschritte markieren einen bedeutenden Schritt vorwärts in der Entwicklung von Diffusionsmodellen, die sowohl effizient als auch präzise sind.

Ähnliche Artikel