Finde Modelle, Firmen und Themen

Eine neue Studie aus dem arXiv-Repository zeigt, dass der klassische K‑Means‑Algorithmus und differenzierbare Radial Basis Function (RBF)-N…

In der Forschung zu differenzierbaren Logikgatternetzwerken (DLGNs) wurden bisher ausschließlich binäre Gatter mit zwei Eingängen verwendet…

In einer bahnbrechenden Veröffentlichung auf arXiv wird ein neues Framework vorgestellt, das die latente Zustandsdarstellung einer Sequenz…

Ein neues Papier von arXiv (2602.18671v1) präsentiert eine innovative Sichtweise auf die Softmax‑Klassifikation von LLMs als Energie‑basier…

In einer bahnbrechenden Studie wird die bislang rätselhafte Zerbrechlichkeit von Transformer‑Modellen endlich entschlüsselt. Die Autoren pr…

Mixture‑of‑Experts‑Modelle setzen auf Router, um Tokens an Experten zu verteilen. Die gängige Softmax‑Gating‑Methode bietet jedoch keine kl…

In der Welt der Attention‑basierten Regressoren wird häufig gleichzeitig die mittlere quadratische Fehlerfunktion (MSE) und der Pearson‑Kor…

In der kooperativen Multi-Agenten‑Reinforcement‑Learning‑Forschung ist die Zerlegung von Werten ein zentrales Konzept. Bisher beruhen die m…

Ein neues arXiv‑Veröffentlichung untersucht, wie KI‑Modelle semantische Strukturen in die geometrische Struktur ihrer Repräsentationsräume…

In einer wegweisenden Veröffentlichung auf arXiv präsentiert das Team hinter HyperMLP einen völlig neuen Blickwinkel auf die klassische Sel…

Ein neues arXiv‑Paper präsentiert einen innovativen Ansatz, um skalare Quantenfeldtheorien mit Hilfe von Transformer‑Attention‑Köpfen zu ko…

In den letzten Jahren hat der Softmax‑Loss (SL) in Empfehlungssystemen an Beliebtheit gewonnen, weil er bessere Ergebnisse, Robustheit und…

In einer neuen Studie wird die Methode QA‑Token vorgestellt, die die Signalqualität von Daten direkt in die Vokabularbildung einbezieht. Da…

In der Forschung zu Audio‑Visual‑Fragenantworten (AVQA) wird zunehmend erkannt, dass ein Modell nicht nur korrekte Antworten liefern, sonde…

In einer bahnbrechenden Veröffentlichung präsentiert das Forschungsteam SLAY, eine neue Klasse linearer Attention-Mechanismen, die auf eine…

In einer bahnbrechenden Veröffentlichung auf arXiv wird erstmals ein rigoroses theoretisches Fundament für selbstbelohnende Sprachmodelle (…

In der Welt der großen Sprachmodelle (LLMs) dominiert das Reinforcement Learning aus menschlichem Feedback (RLHF) als bevorzugte Methode, u…

Die jüngste Veröffentlichung auf arXiv (2601.11618v1) stellt „Geometric Attention“ (GA) vor – einen völlig neuen Rahmen, der die Funktionsw…

Softmax‑Attention hat lange Zeit die Verarbeitung großer Textsequenzen erschwert, weil die strenge Summe‑zu‑Eins‑Beschränkung zu „Sinks“ an…

Wertorientierte Parallelisierung (VLP) wurde entwickelt, um die Effizienz von großen, niedrigen Präzisions-Matrixmultiplikationen (GEMM) zw…

In einer kürzlich veröffentlichten Studie wird gezeigt, dass das Self‑Attention‑Mechanismus des Transformers im Hoch‑Vertrauens‑Modus – als…

Sprachmodelle wie GPT haben die Verarbeitung natürlicher Sprache revolutioniert, doch ihre Fähigkeit, lange Texte zu verstehen, ist durch d…

In der Tiefenlern‑Community ist die Softmax‑Funktion das Herzstück von Klassifikationsmodellen. Sie wandelt die rohen, unbegrenzten Logits…

Die visuelle Artenidentifikation (VSR) ist ein zentrales Werkzeug für Biodiversitäts‑, Evolutions‑ und Ökosystemforschung. Traditionell erf…

Ein neues Forschungsprojekt namens SEED (Spectral Entropy‑Guided Evaluation) hat die Art und Weise, wie multivariate Zeitreihen prognostizi…

Ein neues Attention‑Modell namens Sliced ReLU Attention wurde vorgestellt, das sich strukturell von Softmax‑ und herkömmlichen ReLU‑Alterna…

Mit der stetigen Vergrößerung der Kontextfenster in großen Sprachmodellen wird es immer wichtiger, zu verstehen, wie die Attention-Mechanis…

Die neueste Veröffentlichung auf arXiv (2512.08061v1) stellt LUNA vor – eine lernbare, kernelbasierte lineare Attention, die das klassische…

Die neue Methode AutoSAGE, veröffentlicht auf arXiv, bietet einen Eingabe‑sensiblen CUDA‑Scheduler für Sparse GNN‑Aggregationen wie CSR SpM…