Finde Modelle, Firmen und Themen

Eine neue Architektur für Transformer‑Modelle, die sowohl Sätze als auch strukturierte Daten gleichzeitig trainiert, wurde vorgestellt. Das…

In der Echtzeit‑TDDFT (zeitabhängige Dichtefunktionaltheorie) werden die elektronischen Wellenfunktionen eines Moleküls kontinuierlich in R…

In einer neuen Untersuchung auf arXiv wird die Fähigkeit von Transformer‑Modellen, Informationen aus dem Kontext zu extrahieren, mit der Ef…

In realen Audio- und Videodaten liegen wichtige Informationen oft in langen stillen oder verrauschten Abschnitten verborgen. Klassische rek…

Die Frage, ob ein Lernalgorithmus für beliebig lange Eingaben zuverlässig vorhersagen kann, ist für die Praxis entscheidend. In einem kürzl…

In einer kürzlich veröffentlichten Arbeit auf arXiv wird ein innovatives Verfahren vorgestellt, das die Generierung von neuronalen Netzwerk…

In einer neuen Untersuchung von arXiv‑Studien wird die Geometrie von Trainingspfaden in kleinen Transformer‑Modellen genauer beleuchtet. Da…

Ein neues Forschungsergebnis aus dem Bereich der Bildsynthese zeigt, dass Transformer-Modelle ohne geometrische Vorinformationen die bisher…

Ein neues arXiv‑Veröffentlichungsdokument (2602.18679v1) zeigt, wie kleine Transformer‑Modelle ohne erneutes Training dynamische Systeme vo…

Pharmakokinetische Modelle, die auf physiologischen Prinzipien basieren, sind unverzichtbar für die moderne Arzneimittelentwicklung. Ihre b…

Ein neues arXiv‑Paper stellt CoTAR vor, ein zentralisiertes MLP‑Modul, das die dezentrale Attention von Transformers ersetzt und damit die…

In einer Zeit, in der große Sprachmodelle (LLMs) immer häufiger eingesetzt werden, stellen ihre hohen Rechenanforderungen ein ernstes Probl…

In einer brandneuen Studie auf arXiv wird das Phänomen des Grokking – die plötzliche Übergang von bloßem Auswendiglernen zu echter Generali…

Die neueste Veröffentlichung auf arXiv (2602.17893v1) stellt COMBA vor – eine innovative Technik, die State‑Space‑Modelle (SSMs) für die Ve…

In einer kürzlich veröffentlichten Arbeit auf arXiv (2602.17744v1) stellen die Autoren ein neues Prinzip vor, das In-Context Learning (ICL)…

Transformer‑Modelle zeigen seit langem eine systematische Bevorzugung bestimmter Token‑Positionen, doch die architektonische Ursache blieb…

In der Peer‑Review‑Welt sind tiefgründige, evidenzbasierte Fragen entscheidend. Bisher erzeugen jedoch die meisten großen Sprachmodelle (LL…

In der Praxis wird die Kompression von Transformer‑Modellen häufig mit einer abgeschnittenen Singulärwertzerlegung (SVD) durchgeführt. Dies…

Transformers haben in den letzten Jahren in vielen Bereichen beeindruckende Erfolge erzielt. Diese Entwicklung hat die Entstehung von Graph…

the quick brown fox jumps over the lazy dog

Neutrale Skalierungsgesetze, die bisher vor allem in der Sprach- und Bildverarbeitung bekannt waren, haben nun ihre Relevanz in der Einzelz…

Reinforcement Learning (RL) hat sich als Standardverfahren etabliert, um die visuelle Argumentationsfähigkeit von Vision‑Language‑Modellen…

Mixture-of-Experts (MoE)-Architekturen gelten als vielversprechend für kontinuierliches Lernen, weil die sparsamen Routenupdates die Interf…

In einer neuen Veröffentlichung auf arXiv wird ein innovativer Ansatz vorgestellt, der die Stärken von State‑Space‑Modellen (SSMs) mit der…

Das neue Framework Hi‑SAM löst zwei zentrale Probleme der multimodalen Empfehlung: die ineffiziente Tokenisierung von Text‑ und Bilddaten s…

Ein neues Forschungsprojekt namens Versor präsentiert eine völlig neue Art von Sequenzarchitektur, die Conformal Geometric Algebra (CGA) nu…

Ein neues Verfahren namens TaperNorm ersetzt die herkömmliche Normalisierung in Transformer‑Modellen durch einen dynamischen, sample‑unabhä…

In einem neuen Tutorial von MarkTechPost wird gezeigt, wie man ein Satz‑Embedding‑Modell mit Matryoshka Representation Learning so fein‑tun…