Suche nach Magnitude | meineki.news

U-CAN: Unlearning in Generativen Empfehlungen – Utility-Aware Attenuation

Generative Recommendation (GenRec) nutzt große Sprachmodelle, um Personalisierung als auf Anweisungen basierende Sequenzgenerierung neu zu…

arXiv – cs.LG 02.03.2026 05:00

Forschung

GRAIL: Post-hoc Linear-Reconstruction kompensiert Kompression von Deep Networks

GRAIL ist ein neuer Ansatz, der die Genauigkeitsverluste nach aggressiver Kompression von tiefen neuronalen Netzen adressiert. Der Ansatz n…

arXiv – cs.LG 02.03.2026 05:00

Forschung

LoRA-Adapter werden dank Vektor‑Datenbank dynamisch kombiniert

Parameter‑effiziente Fein‑Tuning‑Methoden wie LoRA haben die Anpassung großer Sprachmodelle an spezifische Aufgaben revolutioniert. Dennoch…

arXiv – cs.AI 26.02.2026 05:00

Forschung

Rank-basierte Spektralgrenzen sichern stabile FP8-Transformer-Training

Ein neues arXiv-Papier liefert einen entscheidenden Fortschritt für das Training von Transformer‑Modellen in extrem niedriger Präzision. Du…

arXiv – cs.LG 24.02.2026 05:00

Forschung

Bayessche Lotterie-Ticket-Hypothese: Sparsame Netzwerke in BNNs

Bayessche neuronale Netzwerke (BNNs) ermöglichen eine robuste Unsicherheitsquantifizierung, erfordern jedoch deutlich mehr Rechenleistung a…

arXiv – cs.LG 24.02.2026 05:00

Forschung

Magnetische Phasen‑Konsistenz revolutioniert unsupervised Multi‑View Clustering

Unsupervised Multi‑View Clustering (MVC) versucht, Daten in sinnvolle Gruppen zu zerlegen, indem es die komplementären Informationen mehrer…

arXiv – cs.LG 24.02.2026 05:00

Forschung

Mehrfach-Grokking: Geometrische Entdeckungen in Transformers

In einer brandneuen Studie auf arXiv wird das Phänomen des Grokking – die plötzliche Übergang von bloßem Auswendiglernen zu echter Generali…

arXiv – cs.LG 24.02.2026 05:00

Forschung

TrasMuon: Vertrauenbasierte Skalierung für orthogonale Momentum-Optimierer

Muons, eine Familie von Optimierern, nutzt Newton-Schulz-Iteration, um die Update-Schritte zu orthogonalisieren. Dadurch entsteht eine nahe…

arXiv – cs.LG 17.02.2026 05:00

Forschung

GHOST: Reduziert Mamba2‑Statusdimension um 50 % ohne großen Qualitätsverlust

Die neueste Veröffentlichung auf arXiv (2602.11408v1) stellt GHOST vor – ein strukturiertes Pruning‑Framework, das die enorme Zustandsdimen…

arXiv – cs.AI 13.02.2026 05:00

Forschung

Magnitude im Embedding: Wie die Größe von Vektoren das Lernen verbessert

In der kontrastiven Lernforschung wird häufig die Kosinusähnlichkeit eingesetzt, die implizit annimmt, dass die Größe (Magnitude) eines Emb…

arXiv – cs.LG 11.02.2026 05:00

Forschung

<p>LLM‑Modelle umgehen Fakten durch geometrische Drehung statt Signalstärke</p> <p>Neues Forschungsergebnis aus dem arXiv‑Repository zeigt, dass große Sprachmodelle (LLMs) häufig widersprüchliche Informationen aus dem aktuellen Kontext über ihre eigene parametrierte Wissensbasis stellen – ein Phänomen, das als „Sycophancy“ oder Compliance bezeichnet wird. Die Studie untersucht, wie genau diese Konflikte gelöst werden und ob sie auf eine Abschwächung der Signalstärke oder auf eine geometrische Veränderung de

arXiv – cs.LG 06.02.2026 05:00

Forschung

Phaedra: Neue Tokenisierung für hochpräzise physikalische Simulationen

Ein neues arXiv‑Paper präsentiert Phaedra, eine Tokenisierungsmethode, die speziell für die hochpräzise Verarbeitung von physikalischen Dat…

arXiv – cs.AI 05.02.2026 05:00

Forschung

QuantLRM: Gewichtsanpassungen als Schlüssel zur Quantisierung von LLMs

In der Welt der großen Sprachmodelle (LLMs) gewinnt die Gewichtsanpassung bei der Quantisierung zunehmend an Bedeutung. Forscher haben eine…

arXiv – cs.LG 04.02.2026 05:00

Forschung

GEPC: Gruppen-Equivarianz erkennt Ausreißer in Diffusionsmodellen

Diffusionsmodelle bestimmen einen zeitabhängigen Score‑Feld, das häufig die Symmetrien (Spiegelungen, Drehungen, Kreisverschiebungen) der T…

arXiv – cs.LG 03.02.2026 05:00

Forschung

RefProtoFL: Kommunikationssparendes Federated Learning mit Referenzprototypen

Federated Learning ermöglicht es, Modelle gemeinsam zu trainieren, ohne dass rohe Daten ausgetauscht werden. In ressourcenbeschränkten Edge…

arXiv – cs.LG 22.01.2026 05:00

Forschung

Riemannsche Metrik: Skalierung erklärt – Auswirkungen auf Optimierung

Ein neues arXiv‑Paper beleuchtet die konsequente Skalierung einer Riemannschen Metrik – ein Thema, das in vielen numerischen Verfahren auft…

arXiv – cs.LG 19.01.2026 05:00

Forschung

PS-LoRA: Konflikte im lebenslangen Lernen durch Subraum‑Ausrichtung lösen

Die neue Methode PS-LoRA löst ein langjähriges Problem im kontinuierlichen Lernen: das katastrophale Vergessen, das bei Low‑Rank‑Adaptation…

arXiv – cs.AI 11.12.2025 05:00

Forschung

Neuer Gradient‑Aware Kompressor reduziert FL-Kommunikationskosten drastisch

Federated Learning (FL) ermöglicht es, Modelle gemeinsam zu trainieren, ohne dass die privaten Daten der Clients offengelegt werden. In der…

arXiv – cs.LG 11.11.2025 05:00

Forschung

Neues Graph Neural Network verbessert Turbulenz- und Wärmevorhersage bei Pin‑Fins

In einer wegweisenden Veröffentlichung präsentiert ein internationales Forschungsteam ein neu entwickeltes, domänen‑responsive, kanten‑bewu…

arXiv – cs.AI 08.09.2025 05:00

Forschung

Emotionale und zeitliche Daten vorhersagen Social‑Media‑Engagement

Ein neues Machine‑Learning‑Modell aus der Forschungslabore von arXiv zeigt, dass die Stimmung und der Zeitpunkt eines Songs stark vorhersag…

arXiv – cs.LG 01.09.2025 05:00

Forschung

S3LoRA: Sicherheitsoptimiertes LoRA‑Pruning für Agenten‑Planer

Die neue Methode S3LoRA (Safe Spectral Sharpness‑Guided Pruning LoRA) bietet eine leichte, datenunabhängige Lösung, um die Sicherheit von L…

arXiv – cs.AI 22.08.2025 05:00

Finde Modelle, Firmen und Themen

U-CAN: Unlearning in Generativen Empfehlungen – Utility-Aware Attenuation

GRAIL: Post-hoc Linear-Reconstruction kompensiert Kompression von Deep Networks

LoRA-Adapter werden dank Vektor‑Datenbank dynamisch kombiniert

Rank-basierte Spektralgrenzen sichern stabile FP8-Transformer-Training

Bayessche Lotterie-Ticket-Hypothese: Sparsame Netzwerke in BNNs

Magnetische Phasen‑Konsistenz revolutioniert unsupervised Multi‑View Clustering

Mehrfach-Grokking: Geometrische Entdeckungen in Transformers

TrasMuon: Vertrauenbasierte Skalierung für orthogonale Momentum-Optimierer

GHOST: Reduziert Mamba2‑Statusdimension um 50 % ohne großen Qualitätsverlust

Magnitude im Embedding: Wie die Größe von Vektoren das Lernen verbessert

Phaedra: Neue Tokenisierung für hochpräzise physikalische Simulationen

QuantLRM: Gewichtsanpassungen als Schlüssel zur Quantisierung von LLMs

GEPC: Gruppen-Equivarianz erkennt Ausreißer in Diffusionsmodellen

RefProtoFL: Kommunikationssparendes Federated Learning mit Referenzprototypen

Riemannsche Metrik: Skalierung erklärt – Auswirkungen auf Optimierung

PS-LoRA: Konflikte im lebenslangen Lernen durch Subraum‑Ausrichtung lösen

Neuer Gradient‑Aware Kompressor reduziert FL-Kommunikationskosten drastisch

Neues Graph Neural Network verbessert Turbulenz- und Wärmevorhersage bei Pin‑Fins

Emotionale und zeitliche Daten vorhersagen Social‑Media‑Engagement

S3LoRA: Sicherheitsoptimiertes LoRA‑Pruning für Agenten‑Planer

🍪 Cookie-Einstellungen

GHOST: Reduziert Mamba2‑Statusdimension um 50 % ohne großen Qualitätsverlust