Suche nach Subspace | meineki.news

Geometrische Theorie erklärt Catastrophisches Vergessen bei LoRA

In einer neuen Studie wird gezeigt, dass das Phänomen des katastrophischen Vergessens bei Low‑Rank‑Adaptation (LoRA) durch eine einfache ge…

arXiv – cs.LG 04.03.2026 05:00

Forschung

Malignant Tail: Warum Überparameterisierte Netze bei Label‑Noise versagen

Eine brandneue Veröffentlichung auf arXiv beleuchtet, warum moderne neuronale Netze bei steigender Rauschanteil plötzlich von gutem zu schä…

arXiv – cs.LG 04.03.2026 05:00

Forschung

LoDA: Task‑gesteuerte Subspace‑Dekomposition steigert LoRA‑CL

In der Forschung zum kontinuierlichen Lernen (CL) hat sich Low‑Rank Adaptation (LoRA) als vielversprechende Methode etabliert, die Modelle…

arXiv – cs.LG 03.03.2026 05:00

Forschung

Nachweisbare Unterraumidentifikation bei nichtlinearem Multi-View-CCA

In einer neuen Studie auf arXiv wird gezeigt, wie die nichtlineare kanonische Korrelationsanalyse (CCA) in einem Multi‑View‑Setup eindeutig…

arXiv – cs.LG 02.03.2026 05:00

Forschung

ESM: Revolutionäres Modell-Merging ohne Interferenz

In der KI-Welt steht das Zusammenführen mehrerer, auf spezifische Aufgaben abgestimmter Modelle – ohne zusätzliche Trainingsschritte – seit…

arXiv – cs.LG 25.02.2026 05:00

Forschung

GIST: Datenauswahl für Instruction Tuning mit gekoppeltem Optimierungsgeometrie

Eine neue Methode namens GIST (Gradient Isometric Subspace Transformation) bringt frischen Wind in die gezielte Datenauswahl für Instructio…

arXiv – cs.LG 24.02.2026 05:00

Forschung

PCA-VAE: Differenzierbare Subspace-Quantisierung ohne Codebook-Kollaps

Eine neue Methode namens PCA-VAE ersetzt die herkömmliche Vektor‑Quantisierung in Autoencodern durch einen vollständig differenzierbaren An…

arXiv – cs.LG 24.02.2026 05:00

Forschung

GrMoE: Neue Routing‑Methode für Mixture‑of‑Experts mit kontrollierter Sparsität

Mixture‑of‑Experts‑Modelle setzen auf Router, um Tokens an Experten zu verteilen. Die gängige Softmax‑Gating‑Methode bietet jedoch keine kl…

arXiv – cs.LG 23.02.2026 05:00

Forschung

NeuroWeaver: Autonomer Evolutionsagent revolutioniert EEG-Analyse-Pipelines

Die neueste Veröffentlichung von NeuroWeaver präsentiert einen autonomen Evolutionsagenten, der die Gestaltung von EEG-Analyse-Pipelines ne…

arXiv – cs.AI 17.02.2026 05:00

Forschung

Spectra: Optimierer für LLMs neu gedacht – Anisotrope Spektren im Fokus

In der Ausbildung großer Sprachmodelle (LLMs) zeigen Gradientensignale eine starke Anisotropie: die wiederkehrende sprachliche Struktur kon…

arXiv – cs.LG 13.02.2026 05:00

Forschung

GFlowNets mit CMAB: Schnellere Entdeckung hochbelohnender Subräume

Generative Flow Networks (GFlowNets) sind ein vielversprechendes probabilistisches Sampling‑Framework, das komplexe kombinatorische Objekte…

arXiv – cs.LG 13.02.2026 05:00

Forschung

Rückwärts-Engineering von Modelländerungen bei Sprachmodellen

Große Sprachmodelle speichern dank ihrer enormen Trainingsdatenmengen unabsichtlich sensible Informationen. Um diese Daten gezielt zu korri…

arXiv – cs.AI 12.02.2026 05:00

Forschung

SEIS: Subspace-basierte Scores für Equivariance & Invariance Repräsentationen

Neurale Netzwerke müssen nicht nur Eingaben korrekt klassifizieren, sondern auch deren räumliche Struktur bewahren. Ein neues Verfahren nam…

arXiv – cs.LG 05.02.2026 05:00

Forschung

Neue Erfolgsfaktoren beim Zusammenführen von Modellen

In einer kürzlich veröffentlichten Studie auf arXiv wird das Phänomen des Modell‑Mergeings genauer untersucht. Dabei geht es darum, Wissen…

arXiv – cs.LG 02.02.2026 05:00

Forschung

Neuer Ansatz: Nicht-invasive Messung des Hirndrucks mit Machine Learning

In einer wegweisenden Studie wurde ein maßgeschneiderter Machine‑Learning‑Algorithmus entwickelt, der die Subspace‑Systemidentifikation mit…

arXiv – cs.LG 30.01.2026 05:00

Forschung

NeuraLSP: Neuronaler Präconditioner beschleunigt CG-Methoden um bis zu 53 %

In der numerischen Lösung von partiellen Differentialgleichungen (PDEs) spielt die effiziente Behandlung großer, spärlicher linearer System…

arXiv – cs.LG 29.01.2026 05:00

Forschung

AGZO: Aktivitätsgesteuerte Zeroth-Order-Optimierung verbessert LLM-Fine‑Tuning

Die neue Methode AGZO (Activation‑Guided Zeroth‑Order) bietet eine elegante Lösung für das Feintuning großer Sprachmodelle unter extremen S…

arXiv – cs.LG 27.01.2026 05:00

Forschung

Effizientes Lernen von Gaußschen Prozessen durch Unterraumprojektionen

In einer neuen Veröffentlichung auf arXiv wird ein innovatives Trainingsziel für Gaußsche Prozesse vorgestellt, das auf niedrigdimensionale…

arXiv – cs.LG 26.01.2026 05:00

Forschung

AdaFRUGAL: Automatisiertes, speichereffizientes Training von LLMs

Das neue Verfahren AdaFRUGAL revolutioniert das Training großer Sprachmodelle, indem es die Speicherbelastung drastisch senkt und gleichzei…

arXiv – cs.LG 21.01.2026 05:00

Forschung

DP‑SFT: Subspace‑Fine‑Tuning senkt Rauschen, steigert Genauigkeit bei LLMs

Die Feinabstimmung großer Sprachmodelle auf spezifische Aufgaben ist entscheidend, um ihr volles Potential auszuschöpfen. Gleichzeitig wirf…

arXiv – cs.LG 19.01.2026 05:00

Forschung

Neues FAConvLSTM-Modell steigert Effizienz und Genauigkeit bei Klimadatenanalyse

Die Analyse hochauflösender, multivariater Erdbeobachtungsdaten erfordert die Erfassung komplexer, physikalisch bedeutungsvoller räumlich‑z…

arXiv – cs.LG 19.01.2026 05:00

Forschung

Clustering hochdimensionaler Daten: Abstraktion vs. Darstellung – AAAI 2026

Im Rahmen des AAAI 2026 wird ein Tutorial vorgestellt, das sich mit der Herausforderung beschäftigt, große, reale Datensätze in sinnvolle G…

arXiv – cs.LG 19.01.2026 05:00

Forschung

GLOSS: Neue Methode eliminiert toxische Subräume in Sprachmodellen

Large Language Models (LLMs) liefern beeindruckende Ergebnisse, doch ihre Fähigkeit, toxische Inhalte zu erzeugen, stellt ein ernsthaftes S…

arXiv – cs.LG 13.01.2026 05:00

Forschung

Gezielte Distillation: Domänenexperten aus großen ML-Modellen extrahieren In der Welt der künstlichen Intelligenz geht es oft darum, die Leistungsfähigkeit großer, komplexer Modelle – die sogenannten „Lehrer“ – auf kleinere, ressourcenschonende Varianten zu übertragen. Diese Technik, bekannt als Knowledge Distillation, ist besonders wichtig, wenn Modelle in Umgebungen mit begrenzter Rechenleistung eingesetzt werden sollen. Ein häufiges Problem dabei ist, dass nur ein kleiner Teil der gesamt

arXiv – cs.LG 12.01.2026 05:00

Forschung

PS-LoRA: Konflikte im lebenslangen Lernen durch Subraum‑Ausrichtung lösen

Die neue Methode PS-LoRA löst ein langjähriges Problem im kontinuierlichen Lernen: das katastrophale Vergessen, das bei Low‑Rank‑Adaptation…

arXiv – cs.AI 11.12.2025 05:00

Forschung

Multi-View Clustering: Umfassender Überblick über unsupervised Lernmethoden

Maschinelles Lernen steht vor zahlreichen Hürden – von Rechenbeschränkungen über die Schwächen einzelner Ansätze bis hin zur Komplexität gr…

arXiv – cs.AI 08.12.2025 05:00

Forschung

BioPro: Zielgerichtete Geschlechtergerechtigkeit für Vision‑Language‑Modelle

Vision‑Language‑Modelle (VLMs) übernehmen aus ihren Trainingsdaten stark ausgeprägte soziale Vorurteile, insbesondere in Bezug auf die Gesc…

arXiv – cs.AI 02.12.2025 05:00

Forschung

Neue Methode enthüllt semantische Strukturen in Embedding‑Räumen

In der heutigen KI-Welt sind Embedding‑Räume unverzichtbar, denn sie wandeln rohe Daten in hochdimensionale Vektoren um, die komplexe seman…

arXiv – cs.AI 02.12.2025 05:00

Forschung

Von Koeffizienten zu Richtungen: Modellfusion mit richtungsbasiertem Alignment

Die Fusion mehrerer, unabhängig trainierter Modelle zu einem einzigen Modell ohne erneutes Joint‑Training hat sich als äußerst praktisch er…

arXiv – cs.LG 02.12.2025 05:00

Forschung

Rotationsinvariante Pruning-Technik steigert neuronale Effizienz

Ein neues arXiv-Papier (2511.16061v1) präsentiert einen innovativen Ansatz zur strukturierten Pruning von neuronalen Netzen. Im Gegensatz z…

arXiv – cs.LG 21.11.2025 05:00

Finde Modelle, Firmen und Themen

Geometrische Theorie erklärt Catastrophisches Vergessen bei LoRA

Malignant Tail: Warum Überparameterisierte Netze bei Label‑Noise versagen

LoDA: Task‑gesteuerte Subspace‑Dekomposition steigert LoRA‑CL

Nachweisbare Unterraumidentifikation bei nichtlinearem Multi-View-CCA

ESM: Revolutionäres Modell-Merging ohne Interferenz

GIST: Datenauswahl für Instruction Tuning mit gekoppeltem Optimierungsgeometrie

PCA-VAE: Differenzierbare Subspace-Quantisierung ohne Codebook-Kollaps

GrMoE: Neue Routing‑Methode für Mixture‑of‑Experts mit kontrollierter Sparsität

NeuroWeaver: Autonomer Evolutionsagent revolutioniert EEG-Analyse-Pipelines

Spectra: Optimierer für LLMs neu gedacht – Anisotrope Spektren im Fokus

GFlowNets mit CMAB: Schnellere Entdeckung hochbelohnender Subräume

Rückwärts-Engineering von Modelländerungen bei Sprachmodellen

SEIS: Subspace-basierte Scores für Equivariance & Invariance Repräsentationen

Neue Erfolgsfaktoren beim Zusammenführen von Modellen

Neuer Ansatz: Nicht-invasive Messung des Hirndrucks mit Machine Learning

NeuraLSP: Neuronaler Präconditioner beschleunigt CG-Methoden um bis zu 53 %

AGZO: Aktivitätsgesteuerte Zeroth-Order-Optimierung verbessert LLM-Fine‑Tuning

Effizientes Lernen von Gaußschen Prozessen durch Unterraumprojektionen

AdaFRUGAL: Automatisiertes, speichereffizientes Training von LLMs

DP‑SFT: Subspace‑Fine‑Tuning senkt Rauschen, steigert Genauigkeit bei LLMs

Neues FAConvLSTM-Modell steigert Effizienz und Genauigkeit bei Klimadatenanalyse

Clustering hochdimensionaler Daten: Abstraktion vs. Darstellung – AAAI 2026

GLOSS: Neue Methode eliminiert toxische Subräume in Sprachmodellen

PS-LoRA: Konflikte im lebenslangen Lernen durch Subraum‑Ausrichtung lösen

Multi-View Clustering: Umfassender Überblick über unsupervised Lernmethoden

BioPro: Zielgerichtete Geschlechtergerechtigkeit für Vision‑Language‑Modelle

Neue Methode enthüllt semantische Strukturen in Embedding‑Räumen

Von Koeffizienten zu Richtungen: Modellfusion mit richtungsbasiertem Alignment

Rotationsinvariante Pruning-Technik steigert neuronale Effizienz

🍪 Cookie-Einstellungen

NeuraLSP: Neuronaler Präconditioner beschleunigt CG-Methoden um bis zu 53 %