KI News. Verstehen, was wichtig wird.

Suche Anmelden

Suche

Finde Modelle, Firmen und Themen

Suche im News-Archiv nach Themen, die du dauerhaft verfolgen willst.

Ergebnisse für “Whitening”

Neue Methode reduziert Redundanz in Daten für Instruction Tuning von LLMs

In der Welt der großen Sprachmodelle spielt die Qualität der Trainingsdaten eine entscheidende Rolle. Während frühere Studien gezeigt haben…

arXiv – cs.LG 17.02.2026 05:00

Whitening verbessert Erklärbarkeit von KI-Modellen – neue Studie zeigt Wirkung

Eine aktuelle Untersuchung auf arXiv (2602.09278v1) beleuchtet, wie das Pre‑Processing‑Verfahren Whitening die Zuverlässigkeit von Feature‑…

arXiv – cs.LG 11.02.2026 05:00

Shampoo-Optimierer: Stochastische Anpassung des Spektralabstiegs

Neuer Forschungsbericht auf arXiv zeigt, dass der Optimierer Shampoo, der die Matrixstruktur von neuronalen Netzwerken nutzt, deutlich date…

arXiv – cs.LG 11.02.2026 05:00

<p>PCA-Whitening verbessert Sparse Autoencoder: Mehr Interpretierbarkeit</p> <p>Neuer Forschungsbericht aus dem arXiv-Repository zeigt, dass die Anwendung von PCA‑Whitening auf die Eingabeaktivierungen Sparse Autoencoders (SAEs) deutlich leistungsfähiger macht. Durch die Entkoppelung der Eingabedaten wird das Optimierungsfeld flacher und konvexer, was die Lernschritte beschleunigt und die Konvergenz stabiler gestaltet. Die Autoren haben sowohl ReLU‑ als auch Top‑K‑SAEs in einer Vielzahl von Architekturen, B

arXiv – cs.LG 19.11.2025 05:00

Trajektorienwert abhängig vom Lernalgorithmus – Policy‑Gradient‑Erkenntnisse

In einer neuen Untersuchung auf arXiv (2511.07878v1) wird gezeigt, dass der Wert einer Trajektorie in der Policy‑Gradient‑Kontrolle stark v…

arXiv – cs.LG 12.11.2025 05:00