Finde Modelle, Firmen und Themen

Moderne Sprachmodelle überschreiten die Speichergrenzen einzelner GPU‑Geräte, sodass Quantisierung unumgänglich wird. Die 4‑Bit‑NormalFloat…

AXELRAM bringt einen echten Durchbruch in der Berechnung von Attention‑Scores: Statt die KV‑Cache‑Indices zu dequantisieren, werden die Sco…

QuantVLA ist ein neu entwickeltes, trainingsfreies Post‑Training‑Quantisierungsframework, das speziell für Vision‑Language‑Action‑Modelle (…

Ein neuer Beitrag auf arXiv zeigt, dass die weit verbreitete Annahme, dass geringere Präzision immer zu mehr Effizienz führt, bei komplexen…

FP8-Formate versprechen enorme Effizienzgewinne beim Training großer Sprachmodelle, bringen jedoch die Herausforderung einer reduzierten nu…