Suche nach Backpropagation

mlx-snn: Spiking Neural Networks jetzt nativ auf Apple Silicon

Mit der neuen Bibliothek mlx-snn wird Spiking Neural Network (SNN) Forschung endlich nativ auf Apple Silicon möglich. Die erste SNN‑Bibliot…

arXiv – cs.LG 05.03.2026 05:00

Forschung

Neues Riemannian-Optimierungsverfahren verbessert modulare Systeme

Ein neues arXiv‑Veröffentlichung (2603.03610v1) liefert einen bedeutenden Fortschritt in der Optimierung von Systemen, die aus modularen Ba…

arXiv – cs.LG 05.03.2026 05:00

Forschung

<h1>Heterogene Zeitkonstanten erhöhen die Stabilität bei Equilibrium Propagation</h1> <p>Equilibrium Propagation (EP) gilt als biologisch plausibler Ansatz zum Trainieren neuronaler Netzwerke, der die klassische Backpropagation ersetzt. In bisherigen Modellen wird jedoch ein einheitlicher Zeitschritt dt verwendet, was einer homogenen Membranzeitkonstanten entspricht – ein Konzept, das in biologischen Systemen nicht zutreffend ist.</p> <p>Die neue Studie führt heterogene Zeitschritte (HTS) ein, indem jeder N

arXiv – cs.LG 05.03.2026 05:00

Forschung

GRAIL: Post-hoc Linear-Reconstruction kompensiert Kompression von Deep Networks

GRAIL ist ein neuer Ansatz, der die Genauigkeitsverluste nach aggressiver Kompression von tiefen neuronalen Netzen adressiert. Der Ansatz n…

arXiv – cs.LG 02.03.2026 05:00

Forschung

Fixierte Pole in RNNs: Effizientere Online-Training für Echtzeit-Anwendungen

Eine neue Untersuchung auf arXiv beleuchtet, warum das Lernen der Pole in rekurrenten neuronalen Netzen (RNNs) bei Echtzeit-Online-Training…

arXiv – cs.LG 26.02.2026 05:00

Forschung

Malliavin‑Calculus: Der Schlüssel zu effizienterem stochastischem Backpropagation

In einer neuen Veröffentlichung auf arXiv wird gezeigt, wie die Malliavin‑Integration‑by‑Parts‑Identität die beiden klassischen Gradientens…

arXiv – cs.LG 20.02.2026 05:00

Forschung

Zero-Order Optimierung für LLM-Fine-Tuning: Lernbare Richtungsabtastung

Das Feintuning großer vortrainierter Sprachmodelle (LLMs) ist ein zentraler Baustein moderner NLP-Anwendungen, doch die damit einhergehende…

arXiv – cs.LG 17.02.2026 05:00

Forschung

Effiziente Steuerung von Diffusionsmodellen ohne Gradienten

Eine neue Methode ermöglicht die gezielte Steuerung unbedingter Diffusionsmodelle, ohne dass während der Inferenz Gradienten berechnet werd…

arXiv – cs.LG 13.02.2026 05:00

Forschung

UltraLIF: Differenzierbare Spiking Neural Networks dank Ultradiscretisierung

Forscher haben ein neues Verfahren namens UltraLIF vorgestellt, das Spiking Neural Networks (SNNs) vollständig differenzierbar macht, ohne…

arXiv – cs.LG 13.02.2026 05:00

Forschung

GHOST: Reduziert Mamba2‑Statusdimension um 50 % ohne großen Qualitätsverlust

Die neueste Veröffentlichung auf arXiv (2602.11408v1) stellt GHOST vor – ein strukturiertes Pruning‑Framework, das die enorme Zustandsdimen…

arXiv – cs.AI 13.02.2026 05:00

Forschung

ERDF: Feature-Enhancement & Reuse steigern Deep Forest Label Distribution Learning

Ein neues Verfahren namens Enhanced and Reused Feature Deep Forest (ERDF) verspricht, die Leistung von Deep Forest (DF) bei der Label Distr…

arXiv – cs.LG 09.02.2026 05:00

Forschung

TurboBoA: Schnellere, genaue Attention-Quantisierung ohne Backpropagation

Mit TurboBoA wird die Quantisierung großer Sprachmodelle schneller und genauer, ohne dass Backpropagation nötig ist. Der neue Ansatz kombin…

arXiv – cs.LG 06.02.2026 05:00

Forschung

SCPL: Training neuronaler Netze beschleunigt durch entkoppelte Verluste

Ein neues Verfahren namens Supervised Contrastive Parallel Learning (SCPL) verspricht, die Trainingsgeschwindigkeit großer neuronaler Netzw…

arXiv – cs.LG 03.02.2026 05:00

Forschung

THDC: Hyperdimensional Computing neu trainiert mit Backpropagation

Die neueste Veröffentlichung auf arXiv (2602.00116v1) stellt THDC – Trainable Hyperdimensional Computing – vor, ein Verfahren, das Hyperdim…

arXiv – cs.LG 03.02.2026 05:00

Forschung

Neues Initialisierungskonzept beschleunigt Predictive Coding Netzwerke

Wissenschaftler aus dem Bereich der neurowissenschaftlich inspirierten Lernalgorithmen haben einen wichtigen Durchbruch erzielt: Durch ein…

arXiv – cs.LG 30.01.2026 05:00

Forschung

Hebb'sches Lernen mit globaler Richtung: Neue Fortschritte

Der Backpropagation-Algorithmus hat die Entwicklung tiefer neuronaler Netze maßgeblich vorangetrieben, doch seine mangelnde biologische Pla…

arXiv – cs.AI 30.01.2026 05:00

Forschung

GRADE: Backpropagation statt Policy Gradients für LLM‑Ausrichtung

In der Welt der großen Sprachmodelle (LLMs) dominiert das Reinforcement Learning aus menschlichem Feedback (RLHF) als bevorzugte Methode, u…

arXiv – cs.LG 21.01.2026 05:00

Forschung

Neuer Ansatz: Einheitlich konsistente Adjoint-Methoden für Deep Learning

In der Welt der tiefen neuronalen Netze, die aus linearen Transformationen und positiv homogenen Nichtlinearitäten wie ReLU bestehen, gilt…

arXiv – cs.LG 19.01.2026 05:00

Forschung

<h1>HOSL: Hybrid-Order Split Learning reduziert Speicherbedarf bei Edge-Training</h1> <p>Split Learning (SL) ermöglicht die kollaborative Schulung großer Sprachmodelle zwischen ressourcenbeschränkten Edge-Geräten und leistungsstarken Servern, indem die Modellrechnung über die Netzwerkgrenze hinweg aufgeteilt wird. Traditionell setzen die meisten SL-Systeme auf First‑Order (FO) Optimierung, die von den Clients verlangt, Zwischenergebnisse wie Aktivierungen für das Backpropagation zu speichern. Dieser Speiche

arXiv – cs.LG 19.01.2026 05:00

Forschung

Online‑Diffusions‑Policy‑Algorithmen: Neue Übersicht für skalierbare Robotik

In der Robotik hat sich die Diffusions‑Policy als besonders ausdrucksstark erwiesen, weil sie multimodale Aktionsverteilungen besser modell…

arXiv – cs.LG 13.01.2026 05:00

Forschung

Baumpräconditionierte differenzierbare Optimierung und Axiome als Schichten

Ein neues Forschungsdokument präsentiert einen differenzierbaren Ansatz, der die axiomatische Struktur von Random Utility Models (RUM) dire…

arXiv – cs.LG 13.01.2026 05:00

Forschung

Phasor Agents: Dreifaktor-Plastizität und schlafgestütztes Lernen

Neues Forschungspapier aus dem arXiv präsentiert Phasor Agents – dynamische Systeme, deren innerer Zustand aus einem Phasor‑Graphen besteht…

arXiv – cs.LG 09.01.2026 05:00

Forschung

Neurale Netzwerke: Eindeutige Repräsentationen im Fokus – Informationstheorie

In einer neuen Studie auf arXiv wird gezeigt, dass neuronale Netzwerke nicht nur Aufgaben lösen, sondern auch ihre internen Repräsentatione…

arXiv – cs.AI 15.12.2025 05:00

Forschung

Neues neuronales Netzwerk löst lineare Gleichungen mit Sampling‑Kaczmarz‑Motzkin

Ein neues neuronales Netzwerk namens T‑SKM‑Net hat die Art und Weise revolutioniert, wie lineare Ungleichungssysteme in sicherheitskritisch…

arXiv – cs.LG 12.12.2025 05:00

Forschung

Neue Evidenzbasierte Klassifikationen verbessern Unsicherheitsabschätzung in KI

In der Künstlichen Intelligenz stellt die Quantifizierung von Unsicherheiten ein zentrales Problem dar, das Entscheidungen, Risikobewertung…

arXiv – cs.LG 08.12.2025 05:00

Forschung

Reversible LLMs: Speicher sparen, Training beschleunigen

In einer bahnbrechenden Studie von arXiv (2512.02056v1) wird gezeigt, wie große Sprachmodelle (LLMs) dank reversibler Architekturen deutlic…

arXiv – cs.AI 03.12.2025 05:00

Forschung

VS-Graph: Hyperdimensionales Lernen für schnelle, genaue Graphklassifikation

Die Klassifikation von Graphen ist ein zentrales Problem in Bereichen wie Molekülvorhersage und Materialdesign. Während Graph Neural Networ…

arXiv – cs.LG 04.12.2025 05:00

Forschung

Neues Verfahren RePS beschleunigt Inverse Probleme mit Diffusionsmodellen

Inverse Probleme, bei denen aus unvollständigen oder verrauschten Messungen ein zugrunde liegendes Signal rekonstruiert werden soll, stehen…

arXiv – cs.AI 27.11.2025 05:00

Forschung

Neue Methode optimiert multimodales Lernen durch adaptive Redundanzregulierung

Im Bereich des multimodalen Lernens wird die Leistung durch die Kombination mehrerer Datenquellen gesteigert. In der Praxis führt jedoch ei…

arXiv – cs.LG 19.11.2025 05:00

Forschung

Sheaf-Theorie erklärt Fehler in linearen Predictive Coding Netzwerken

Predictive Coding (PC) ersetzt das herkömmliche globale Backpropagation durch eine lokale Optimierung von Gewichten und Aktivierungen. In d…

arXiv – cs.LG 17.11.2025 05:00

Finde Modelle, Firmen und Themen

mlx-snn: Spiking Neural Networks jetzt nativ auf Apple Silicon

Neues Riemannian-Optimierungsverfahren verbessert modulare Systeme

GRAIL: Post-hoc Linear-Reconstruction kompensiert Kompression von Deep Networks

Fixierte Pole in RNNs: Effizientere Online-Training für Echtzeit-Anwendungen

Malliavin‑Calculus: Der Schlüssel zu effizienterem stochastischem Backpropagation

Zero-Order Optimierung für LLM-Fine-Tuning: Lernbare Richtungsabtastung

Effiziente Steuerung von Diffusionsmodellen ohne Gradienten

UltraLIF: Differenzierbare Spiking Neural Networks dank Ultradiscretisierung

GHOST: Reduziert Mamba2‑Statusdimension um 50 % ohne großen Qualitätsverlust

ERDF: Feature-Enhancement & Reuse steigern Deep Forest Label Distribution Learning

TurboBoA: Schnellere, genaue Attention-Quantisierung ohne Backpropagation

SCPL: Training neuronaler Netze beschleunigt durch entkoppelte Verluste

THDC: Hyperdimensional Computing neu trainiert mit Backpropagation

Neues Initialisierungskonzept beschleunigt Predictive Coding Netzwerke

Hebb'sches Lernen mit globaler Richtung: Neue Fortschritte

GRADE: Backpropagation statt Policy Gradients für LLM‑Ausrichtung

Neuer Ansatz: Einheitlich konsistente Adjoint-Methoden für Deep Learning

Online‑Diffusions‑Policy‑Algorithmen: Neue Übersicht für skalierbare Robotik

Baumpräconditionierte differenzierbare Optimierung und Axiome als Schichten

Phasor Agents: Dreifaktor-Plastizität und schlafgestütztes Lernen

Neurale Netzwerke: Eindeutige Repräsentationen im Fokus – Informationstheorie

Neues neuronales Netzwerk löst lineare Gleichungen mit Sampling‑Kaczmarz‑Motzkin

Neue Evidenzbasierte Klassifikationen verbessern Unsicherheitsabschätzung in KI

Reversible LLMs: Speicher sparen, Training beschleunigen

VS-Graph: Hyperdimensionales Lernen für schnelle, genaue Graphklassifikation

Neues Verfahren RePS beschleunigt Inverse Probleme mit Diffusionsmodellen

Neue Methode optimiert multimodales Lernen durch adaptive Redundanzregulierung

Sheaf-Theorie erklärt Fehler in linearen Predictive Coding Netzwerken

🍪 Cookie-Einstellungen

GHOST: Reduziert Mamba2‑Statusdimension um 50 % ohne großen Qualitätsverlust