KI News: Kurz und klar.

Seit über zehn Jahren dominiert bei generativer KI ein modellzentrierter Ansatz, der vor allem auf Skalierungsgesetzen basiert. Trotz beeindruckender Fortschritte in der visuellen Qualität stößt dieses Modellmodell an eine „Usability‑Ceiling“, die sich in der sogenannten Intent‑Execution‑Gap äußert: die Kluft zwischen dem kreativen Intention eines Nutzers und der stochastischen, schwarzen Box-Natur aktueller Einmalmodelle.

Eine neue Untersuchung aus dem arXiv‑Repository hat die Art und Weise, wie wir Transformer‑Architekturen skalieren, grundlegend überdacht. Die Forscher haben Architektur‑abhängige Skalierungs­gesetze entwickelt, die zeigen, dass die optimale Tiefe und Breite eines Modells stark voneinander abhängen.

Die Veröffentlichung von arXiv:2512.16531v1 beleuchtet, wie lokale Sprach- und Vision‑Language‑Modelle auf Edge‑Geräten betrieben werden können, ohne dabei Genauigkeit und Energieverbrauch zu opfern. Während Grafikprozessoren die meisten KI‑Deployments dominieren, nutzen die meisten Konsumentengeräte – von Laptops über Desktops bis hin zu eingebetteten Systemen – ausschließlich CPUs. Trotz dieser Dominanz sind die Rechen­gesetze für CPU‑nur‑Inference bei lokalen Sprach- und Vision‑Modellen bislang kaum erforscht.

NVIDIAs beschleunigte Rechenplattform setzt neue Maßstäbe im Supercomputing und hat die CPU-dominierten Benchmarks längst übertroffen. Durch die Kombination aus Hochleistungs-GPUs und fortschrittlicher Software ermöglicht NVIDIA KI, wissenschaftliche Forschung, Geschäftsprozesse und die allgemeine Rechenleistung weltweit effizienter denn je.

Wissenschaftler haben ein neues, umfassendes Spektralmodell vorgestellt, das die bekannten Skalierungsgesetze für neuronale Netzwerke mit den bislang getrennt betrachteten Kompressionsverhalten verbindet. Das Modell beschreibt, wie Testverluste und andere Leistungskennzahlen von Modellgröße, Datensatzgröße und Rechenleistung abhängen und liefert gleichzeitig einen theoretischen Rahmen für die Effekte von Modellkompression.

Ein neues Forschungsergebnis aus dem Bereich des Deep Learning eröffnet einen wichtigen Schritt zur theoretischen Fundierung von überparametrisierten neuronalen Netzwerken. Der Ansatz, der als „depth‑induced NTK“ bezeichnet wird, nutzt eine Shortcut‑basierte Architektur, um die Tiefe eines Netzes in die Berechnung des Neural Tangent Kernel (NTK) einzubeziehen.