Suche

Finde Modelle, Firmen und Themen

Suche im News-Archiv nach Themen, die du dauerhaft verfolgen willst.

Ergebnisse für “Transformer”
Forschung

<p>Warum sind lineare RNNs besser parallelisierbar?</p> <p>In der aktuellen Forschung gewinnen lineare rekurrente neuronale Netze (LRNNs) als Sprachmodelle immer mehr an Bedeutung. Sie vereinen eine starke Ausdruckskraft mit einer hohen Parallelisierbarkeit, was sie zu einer attraktiven Alternative zu herkömmlichen, nichtlinearen RNNs und sogar zu Transformern macht.</p> <p>Die neue Studie von ArXiv 2603.03612v1 liefert die entscheidende Antwort: LRNNs lassen sich als log‑tiefe arithmetische Schaltkreise da

arXiv – cs.LG
Forschung

<h1>Neuer Graph-Transformer-Ansatz priorisiert AD‑Gene präziser</h1> <p>Ein neues multimodales Modell namens NETRA (Node Evaluation through Transformer-based Representation and Attention) verspricht, die Priorisierung von Genen, die mit Alzheimer (AD) in Verbindung stehen, deutlich zu verbessern. Im Gegensatz zu herkömmlichen Netzwerkansätzen, die auf statischen Zentralitätsmaßen beruhen, nutzt NETRA ein auf Attention basierendes Scoring, das die Komplexität biologischer Heterogenität besser erfasst.</p> <p

arXiv – cs.LG