Suche nach Normalisierung

MAGE: Meta-Lern-Framework für LLM-Agenten – Strategische Erkundung & Ausnutzung

In der Welt der großen Sprachmodelle (LLMs) hat sich gezeigt, dass Agenten erstaunliche Leistungen in erlernten Aufgaben erbringen können…

arXiv – cs.AI 05.03.2026 05:00

Forschung

Dynamische Temperaturkontrolle stabilisiert Gibbs‑Training von RBMs

Eine neue Studie auf arXiv (2603.02525v1) zeigt, dass das herkömmliche Gibbs‑Training von Restricted Boltzmann Machines (RBMs) – bei dem di…

arXiv – cs.LG 04.03.2026 05:00

Forschung

Intrusive Lorentz Neural Network: Rekordleistung im hyperbolischen Lernen

In vielen realen Datensätzen liegen hierarchische Strukturen verborgen, die sich besonders gut durch hyperbolische Geometrie darstellen las…

arXiv – cs.LG 02.03.2026 05:00

Forschung

GNNs für AML: Initialisierung & Normalisierung steigern Bitcoin‑Betrugserkennung

Graph Neural Networks (GNNs) eröffnen neue Möglichkeiten im Kampf gegen Finanzbetrug, indem sie Transaktionsdaten nicht nur als einzelne Kn…

arXiv – cs.LG 02.03.2026 05:00

Forschung

Selbstvertrauen in RL führt zu Fehlern – asymmetrische Strafen helfen

In der Welt der großen Sprachmodelle (LLMs) hat sich Reinforcement Learning mit verifizierbaren Belohnungen (RLVR) als führendes Verfahren…

arXiv – cs.AI 26.02.2026 05:00

Forschung

Muon+ verbessert Muon-Optimierer durch zusätzliche Normalisierung

Der Muon-Optimierer hat bereits bei der Vortrainierung großer Sprachmodelle vielversprechende Ergebnisse erzielt, indem er Gradienten (oder…

arXiv – cs.LG 26.02.2026 05:00

Forschung

LLMs optimieren Empfehlungen: Lernende Verbalisierung steigert Treffer um 93 %

Large Language Models (LLMs) werden zunehmend als Kernkomponenten in generativen Empfehlungssystemen eingesetzt. Ein bislang wenig erforsch…

arXiv – cs.AI 25.02.2026 05:00

Forschung

Neues Verfahren reduziert Fehler bei Zeitreihenprognosen um 10 %

Ein kürzlich auf arXiv veröffentlichtes Papier präsentiert einen innovativen Ansatz zur Verbesserung von Zeitreihenprognosen. Durch die gez…

arXiv – cs.LG 24.02.2026 05:00

Forschung

Verteilte PINNs: Schnelle Strömungsrekonstruktion durch Domänenzerlegung

Physik-informierte neuronale Netzwerke (PINNs) ermöglichen die Rekonstruktion von Strömungen, indem sie spärliche Geschwindigkeitsmessungen…

arXiv – cs.LG 19.02.2026 05:00

Forschung

Neues Benchmark für IoT-Anomalieerkennung: Event-Level-Tests mit realistischen Störungen

Ein neues Benchmark-Protokoll für die Anomalieerkennung in IoT-Zeitreihen wurde vorgestellt, das die Bewertung auf Ereignisebene statt auf…

arXiv – cs.LG 18.02.2026 05:00

Forschung

On-Policy SFT: Effiziente, präzise KI-Logik ohne komplexes RL

In der Forschung zu großen Rechenmodellen für logisches Denken wird häufig Reinforcement Learning (RL) eingesetzt, um lange „Chain-of-Thoug…

arXiv – cs.AI 17.02.2026 05:00

Forschung

Normalisierung statt Clipping: Warum SGD bei stark schiefem Rauschen konvergiert

Eine neue theoretische Analyse zeigt, warum die Normalisierung bei stochastisch vorgefertigtem Stochastic Gradient Descent (SPSGD) – und se…

arXiv – cs.LG 17.02.2026 05:00

Forschung

Neuer Ansatz stabilisiert Low-Rank-LLM-Training

Auf dem arXiv erschienen die Ergebnisse der Studie Stabilizing Native Low-Rank LLM Pretraining (ID 2602.12429v1). Sie zeigen, dass große Sp…

arXiv – cs.LG 16.02.2026 05:00

Forschung

Neuer RL-Algorithmus vereint Effizienz von Model-Free und Stärke von Model-Based

Ein neuer Reinforcement‑Learning‑Ansatz namens Unified Latent Dynamics (ULD) kombiniert die schnelle Lernfähigkeit von model‑free Methoden…

arXiv – cs.LG 16.02.2026 05:00

Forschung

Spectra: Optimierer für LLMs neu gedacht – Anisotrope Spektren im Fokus

In der Ausbildung großer Sprachmodelle (LLMs) zeigen Gradientensignale eine starke Anisotropie: die wiederkehrende sprachliche Struktur kon…

arXiv – cs.LG 13.02.2026 05:00

Forschung

Transformer‑Attention‑Modelle als neue Basis für Quantenfeldtheorie

Ein neues arXiv‑Paper präsentiert einen innovativen Ansatz, um skalare Quantenfeldtheorien mit Hilfe von Transformer‑Attention‑Köpfen zu ko…

arXiv – cs.LG 12.02.2026 05:00

Forschung

MVN-Grad: Neuer Optimierer kombiniert Varianznormalisierung und Momentum

Ein neuer Optimierer namens MVN-Grad, vorgestellt auf arXiv, kombiniert zwei bewährte Ideen – die Varianznormalisierung von Gradienten und…

arXiv – cs.LG 12.02.2026 05:00

Forschung

TaperNorm: Normenfrei in Transformers – stabile Trainings und schnellere Inferenz

Ein neues Verfahren namens TaperNorm ersetzt die herkömmliche Normalisierung in Transformer‑Modellen durch einen dynamischen, sample‑unabhä…

arXiv – cs.LG 12.02.2026 05:00

Forschung

Magnitude im Embedding: Wie die Größe von Vektoren das Lernen verbessert

In der kontrastiven Lernforschung wird häufig die Kosinusähnlichkeit eingesetzt, die implizit annimmt, dass die Größe (Magnitude) eines Emb…

arXiv – cs.LG 11.02.2026 05:00

Forschung

Geometrische Messwerte enthüllen, was Halluzinationen wirklich bedeuten

In einer neuen Studie von Forschern auf arXiv (2602.09158v1) wird untersucht, welche Eigenschaften von Halluzinationen tatsächlich durch ge…

arXiv – cs.LG 11.02.2026 05:00

Forschung

Neues QKNorm: Lp‑Norm‑basierte Normalisierung für Transformer

Die Stabilität von Transformer‑Modellen hängt stark von der Normalisierung der Query‑ und Key‑Vektoren ab. Durch die Skalierung dieser Vekt…

arXiv – cs.LG 06.02.2026 05:00

Forschung

Benford-Quant: Logarithmisch angepasste Quantisierung steigert LLM-Leistung

Mit dem rasanten Wachstum großer Sprachmodelle steigt der Bedarf an effektiven Kompressionsmethoden. Die am häufigsten eingesetzte Technik…

arXiv – cs.LG 03.02.2026 05:00

Forschung

Quantum‑inspiriertes RL optimiert sichere, nachhaltige AIoT‑Lieferketten

Moderne Lieferketten stehen vor dem Dilemma, gleichzeitig hohe Logistikgeschwindigkeiten, ökologische Verantwortung und Cybersicherheit zu…

arXiv – cs.LG 02.02.2026 05:00

Forschung

SemanticALLI: Zwischenschritte in Agenten-Intelligenz effizient cachen

Agentenbasierte KI‑Pipelines leiden unter einer versteckten Ineffizienz: Sie rekonstruieren häufig dieselben Zwischenschritte, etwa die Nor…

arXiv – cs.AI 26.01.2026 05:00

Forschung

Automatisierte Pipeline wandelt Call-Center-Aufnahmen in Q&A-Daten für LLM-Training

Ein neues Verfahren namens Call2Instruct ermöglicht es, aus unstrukturierten Call‑Center‑Aufnahmen automatisch hochwertige Frage‑Antwort‑Da…

arXiv – cs.AI 22.01.2026 05:00

Forschung

Muon-Variante beschleunigt LLM-Vortraining durch variancengesteuertes Momentum

Die neuesten Forschungsergebnisse zeigen, dass die Optimierungsstrategie Muon die Vortrainingsphase großer Sprachmodelle deutlich beschleun…

arXiv – cs.LG 22.01.2026 05:00

Forschung

<h1>LLM-Embeddings: Diskrete semantische Zustände und Hamiltonianische Dynamik</h1> <p>In einer neuen Studie wird die Struktur von Embedding‑Räumen großer Sprachmodelle (LLMs) mit Hilfe linearer Algebra und des Hamiltonian‑Formalismus untersucht. Dabei greifen die Forscher auf Parallelen zur Quantenmechanik zurück, um die beobachteten diskreten semantischen Zustände besser zu verstehen.</p> <p>Die Analyse zeigt, dass die L2‑Normalisierung, die in vielen LLM‑Architekturen üblich ist, die Embedding‑Räume in e

arXiv – cs.LG 21.01.2026 05:00

Forschung

Neue analytische Bijektionen revolutionieren glatte, interpretierbare Normalisierungsflüsse

Die Entwicklung von Normalisierungsflüssen steht vor einer zentralen Herausforderung: Wie kann man skalare Bijektionen schaffen, die gleich…

arXiv – cs.LG 19.01.2026 05:00

Forschung

Unüberwachtes LSTM‑Autoencoder‑Modell erkennt frühzeitig Ausfälle bei Turbofan‑Triebwerken

Ein neues, unüberwachtes Gesundheitsmonitoring‑Framework für Turbofan‑Triebwerke wurde vorgestellt, das keine Lauf‑bis‑Ausfall‑Labels benöt…

arXiv – cs.LG 16.01.2026 05:00

Forschung

Neue Methode ermöglicht unbegrenzte Textlänge für Sprachmodelle

Sprachmodelle wie GPT haben die Verarbeitung natürlicher Sprache revolutioniert, doch ihre Fähigkeit, lange Texte zu verstehen, ist durch d…

arXiv – cs.AI 13.01.2026 05:00

Finde Modelle, Firmen und Themen

MAGE: Meta-Lern-Framework für LLM-Agenten – Strategische Erkundung & Ausnutzung

Dynamische Temperaturkontrolle stabilisiert Gibbs‑Training von RBMs

Intrusive Lorentz Neural Network: Rekordleistung im hyperbolischen Lernen

GNNs für AML: Initialisierung & Normalisierung steigern Bitcoin‑Betrugserkennung

Selbstvertrauen in RL führt zu Fehlern – asymmetrische Strafen helfen

Muon+ verbessert Muon-Optimierer durch zusätzliche Normalisierung

LLMs optimieren Empfehlungen: Lernende Verbalisierung steigert Treffer um 93 %

Neues Verfahren reduziert Fehler bei Zeitreihenprognosen um 10 %

Verteilte PINNs: Schnelle Strömungsrekonstruktion durch Domänenzerlegung

Neues Benchmark für IoT-Anomalieerkennung: Event-Level-Tests mit realistischen Störungen

On-Policy SFT: Effiziente, präzise KI-Logik ohne komplexes RL

Normalisierung statt Clipping: Warum SGD bei stark schiefem Rauschen konvergiert

Neuer Ansatz stabilisiert Low-Rank-LLM-Training

Neuer RL-Algorithmus vereint Effizienz von Model-Free und Stärke von Model-Based

Spectra: Optimierer für LLMs neu gedacht – Anisotrope Spektren im Fokus

Transformer‑Attention‑Modelle als neue Basis für Quantenfeldtheorie

MVN-Grad: Neuer Optimierer kombiniert Varianznormalisierung und Momentum

TaperNorm: Normenfrei in Transformers – stabile Trainings und schnellere Inferenz

Magnitude im Embedding: Wie die Größe von Vektoren das Lernen verbessert

Geometrische Messwerte enthüllen, was Halluzinationen wirklich bedeuten

Neues QKNorm: Lp‑Norm‑basierte Normalisierung für Transformer

Benford-Quant: Logarithmisch angepasste Quantisierung steigert LLM-Leistung

Quantum‑inspiriertes RL optimiert sichere, nachhaltige AIoT‑Lieferketten

SemanticALLI: Zwischenschritte in Agenten-Intelligenz effizient cachen

Automatisierte Pipeline wandelt Call-Center-Aufnahmen in Q&A-Daten für LLM-Training

Muon-Variante beschleunigt LLM-Vortraining durch variancengesteuertes Momentum

Neue analytische Bijektionen revolutionieren glatte, interpretierbare Normalisierungsflüsse

Unüberwachtes LSTM‑Autoencoder‑Modell erkennt frühzeitig Ausfälle bei Turbofan‑Triebwerken

Neue Methode ermöglicht unbegrenzte Textlänge für Sprachmodelle

🍪 Cookie-Einstellungen

LLMs optimieren Empfehlungen: Lernende Verbalisierung steigert Treffer um 93 %

Neues Verfahren reduziert Fehler bei Zeitreihenprognosen um 10 %