Quantisierung verkleinert Codebuch: Fix für Vielfalt in Tokenisierung
Eine neue Arbeit, die auf arXiv veröffentlicht wurde, beleuchtet die bislang wenig erforschte Problematik der Kollaps‑Phänomene bei der Vektor‑Quantisierung in generativen Modellen. Die Autoren untersuchen, wie kontinui…