KI News: Kurz und klar.

In der neuesten Veröffentlichung auf arXiv (2602.02599v1) wird ein innovativer Ansatz vorgestellt, der die Speicher- und Rechenkosten von KV‑Caches in großen Sprachmodellen drastisch senkt. Durch die Kompression von KV‑Projektionen mittels Low‑Rank‑Faktorisierung – also der Approximation W ≈ A * B – können latente KV‑Zustände erzeugt und anschließend in die nachfolgenden Gewichte integriert werden.

Der neue Transformer‑Ansatz JetFormer wurde entwickelt, um die Erkennung von Teilchenjets am Large Hadron Collider (LHC) sowohl in hochpräzisen Offline‑Analysen als auch in Echtzeit‑Trigger‑Systemen zu optimieren. Im Gegensatz zu bisherigen Modellen, die oft nur für einen bestimmten Einsatzbereich geeignet sind, arbeitet JetFormer mit variablen Partikelmengen und benötigt keine expliziten Paarinteraktionen, wodurch die Rechenlast reduziert wird.

In einer wegweisenden Studie haben Forscher neue Skalierungsformeln entwickelt, die den Energieverbrauch von Diffusionsmodellen für die Bildgenerierung präzise vorhersagen. Durch die Anpassung der Kaplan‑Skalierungs­gesetze an die GPU‑Rechenleistung lassen sich die FLOPs (Floating‑Point Operations) in konkrete Stromkosten umrechnen.

Die generative KI‑Revolution hat ein entscheidendes Geheimnis enthüllt: Rechenleistung allein reicht nicht aus, wenn die Daten nicht schnell genug an die Prozessoren gelangen. In den riesigen KI‑Rechenzentren, die tausende GPUs beherbergen, ist die eigentliche Engpassstelle nicht die Rechenleistung, sondern die Speicherbandbreite.

Nvidia hat den Rubin CPX vorgestellt, einen hochoptimierten Accelerator, der speziell für die Pre‑Fill‑Phase von KI‑Modellen konzipiert ist. Der einzelne Chip legt dabei einen starken Fokus auf Rechenleistung (FLOPS) und reduziert die Bedeutung der Speicherbandbreite.