NativeTernary: Binäres Encoding für ternäre KI-Modelle
Die neueste Veröffentlichung von BitNet b1.58 (Ma et al., 2024) hat gezeigt, dass große Sprachmodelle vollständig mit ternären Gewichten – {-1, 0, +1} – arbeiten können. Ein Problem blieb jedoch: Es existierte kein nati…