Suche nach Aufmerksamkeitsmechanismen

Hopfield-Netzwerke verbinden Diffusion Guidance mit Anderson Acceleration

Ein neues Papier auf arXiv (2603.02531v1) legt einen grundlegenden Rahmen vor, der die bislang getrennten Ansätze der Diffusion‑Guidance un…

arXiv – cs.LG 04.03.2026 05:00

Forschung

AdvSynGNN: Graph Neural Networks – robuste Leistung trotz struktureller Störungen

Die neue Architektur AdvSynGNN setzt neue Maßstäbe für Graph Neural Networks (GNNs), indem sie die häufig auftretende Leistungsabnahme bei…

arXiv – cs.LG 20.02.2026 05:00

Forschung

SLA2: Dynamische Sparse-Linear Attention beschleunigt Video‑Diffusion um 18,6×

Die neueste Variante des Sparse‑Linear Attention (SLA) – SLA2 – verspricht eine deutliche Beschleunigung von Video‑Diffusionsmodellen, ohne…

arXiv – cs.LG 16.02.2026 05:00

Forschung

Versor: Revolutionäre Geometrische Sequenzarchitektur übertrifft Transformer

Ein neues Forschungsprojekt namens Versor präsentiert eine völlig neue Art von Sequenzarchitektur, die Conformal Geometric Algebra (CGA) nu…

arXiv – cs.AI 12.02.2026 05:00

Forschung

Trifuse: Mehr Genauigkeit bei GUI‑Übersetzung durch multimodale Fusion

Die neue Methode Trifuse verbessert die Zuordnung von Sprachbefehlen zu grafischen Benutzeroberflächen (GUI) erheblich, ohne dass dafür rie…

arXiv – cs.AI 09.02.2026 05:00

Forschung

Neues EEG-Emotionserkennungsmodell mit Hybrid-Transformer erzielt Rekordleistung

Emotionserkennung aus Elektroenzephalographie (EEG) ist ein zentrales Thema in der affektiven Informatik und für Entscheidungshilfesysteme…

arXiv – cs.LG 09.02.2026 05:00

Forschung

Domain‑Features schlagen Transformers bei Emotionserkennung im EAV‑Datensatz

Eine neue Untersuchung zum multimodalen Erkennen von Emotionen mit dem EAV‑Datensatz hat gezeigt, dass komplexe Aufmerksamkeitsmechanismen…

arXiv – cs.LG 02.02.2026 05:00

Forschung

ERP mit Multi-Type-Transformern revolutioniert die Ferro‑Titanium‑Industrie

In einer kürzlich veröffentlichten Studie aus dem arXiv‑Repository wird gezeigt, wie die neuartige Multi‑Type‑Transformer‑Architektur (MTT)…

arXiv – cs.AI 29.01.2026 05:00

Forschung

GPCR-Filter: KI-Framework entdeckt präzise GPCR-Modulatoren effizient

Ein neues Deep‑Learning‑System namens GPCR‑Filter verspricht, die Suche nach Modulatoren für G‑Protein‑gekoppelte Rezeptoren (GPCRs) zu rev…

arXiv – cs.LG 28.01.2026 05:00

Forschung

Neues Verfahren liefert zitierfähige klinische Zusammenfassungen ohne Training

In der medizinischen Dokumentation ist es entscheidend, dass Zusammenfassungen nicht nur flüssig und verständlich sind, sondern auch klar z…

arXiv – cs.AI 26.01.2026 05:00

Forschung

Audio‑Attacken brechen trimodale Modelle – 96 % Erfolgsrate bei hörbaren Störungen

Multimodale Grundmodelle, die Audio, Vision und Sprache kombinieren, erzielen beeindruckende Leistungen bei komplexen Aufgaben, doch ihre W…

arXiv – cs.AI 26.01.2026 05:00

Forschung

DiSPA: Differenzierte Substruktur-Pathway-Attention verbessert Arzneimittelantwortvorhersage

Ein neues Deep‑Learning‑Framework namens DiSPA verspricht, die Vorhersage von Arzneimittelantworten in der Präzisionsmedizin deutlich zu ve…

arXiv – cs.LG 22.01.2026 05:00

Forschung

Spectral Generative Flow Models: Physikbasierte Alternative zu Transformers

In einer wegweisenden Veröffentlichung auf arXiv wird die neue Klasse der Spectral Generative Flow Models (SGFMs) vorgestellt, die Transfor…

arXiv – cs.LG 15.01.2026 05:00

Forschung

Aufdeckung des Attention‑Floating‑Mechanismus in Masked Diffusion Modellen

Maskierte Diffusionsmodelle (MDMs) nutzen bidirektionale Aufmerksamkeitsmechanismen und einen Rauschreduktionsprozess, um die Leistungslück…

arXiv – cs.LG 14.01.2026 05:00

Forschung

Neues Modell erkennt Autismus durch Augenbewegungen

Autismus-Spektrum-Störung (ASD) lässt sich nun mithilfe von Augenbewegungsdaten zuverlässig erkennen – ein völlig nicht-invasiver Ansatz, d…

arXiv – cs.LG 12.01.2026 05:00

Forschung

PAACE: Neues Framework für effiziente Kontextverwaltung bei LLM-Agenten

Large Language Model (LLM)-Agenten werden zunehmend in komplexen, mehrstufigen Arbeitsabläufen eingesetzt, die Planung, Tool‑Nutzung, Refle…

arXiv – cs.AI 22.12.2025 05:00

Forschung

MetaHGNIE: Hypergraph-Contrastive Learning für heterogene Wissensgraphen

Die Bewertung der Wichtigkeit von Knoten in heterogenen Wissensgraphen ist ein zentrales Problem für Anwendungen wie Empfehlungssysteme, Wi…

arXiv – cs.AI 16.12.2025 05:00

Forschung

KI-Framework optimiert EV-Ladung durch kontextbasierte Agenten

Ein neues, kontextsensitive Multi-Agenten-Framework namens CAMAC‑DRA wurde vorgestellt, das die dynamische Ressourcenallokation in Elektrof…

arXiv – cs.AI 16.12.2025 05:00

Forschung

Transformers revolutionieren Vorhersage von Protein-Secondary-Strukturen

Ein neues arXiv‑Veröffentlichung zeigt, wie Transformer‑Modelle Protein‑Sekundärstrukturen – Alpha‑Helices, Beta‑Sheets und Coils – aus Ami…

arXiv – cs.AI 10.12.2025 05:00

Praxis

Hybridmodelle treffen SGLang: Mehr als reine Vollaufmerksamkeit

Hybridmodelle, die die Leistungsfähigkeit von Vollaufmerksamkeit mit alternativen Mechanismen wie Mamba oder linearer Aufmerksamkeit kombin…

PyTorch – Blog 03.12.2025 19:05

Forschung

Neuer Ansatz zur Erkennung von KI-Texten mit XLM‑RoBERTa

Die Unterscheidung zwischen von Menschen verfassten und von KI generierten Texten wird immer wichtiger, da generative Modelle wie ChatGPT i…

arXiv – cs.LG 27.11.2025 05:00

Forschung

TouchFormer: Robustes multimodales Framework für Materialerkennung

In der Materialerkennung, die traditionell stark von visuellen Daten abhängt, treten bei schlechten Lichtverhältnissen oder anderen visuell…

arXiv – cs.LG 26.11.2025 05:00

Forschung

ManifoldFormer: EEG-Modell nutzt Riemannsche Geometrie für höhere Genauigkeit

Eine neue Studie präsentiert ManifoldFormer, ein EEG‑Foundation‑Modell, das die geometrische Struktur neuronaler Dynamik nutzt, um die Anal…

arXiv – cs.AI 24.11.2025 05:00

Forschung

Vision Transformers verbessern Temperaturvorhersage bei Specklegram‑Sensoren

Faser‑Specklegram‑Sensoren (FSS) gelten als hochpräzise Instrumente zur Umweltüberwachung, insbesondere zur Messung von Temperaturänderunge…

arXiv – cs.AI 20.11.2025 05:00

Forschung

HyperComplEx: Adaptive Multi‑Space Embeddings verbessern Wissensgraphen

Wissensgraphen sind zentrale Strukturen für die Darstellung komplexer relationaler Daten in Wissenschaft und Wirtschaft. Doch bisherige Ein…

arXiv – cs.AI 17.11.2025 05:00

Forschung

<h1>LLMs: Neue Methode trennt Halluzinationen und nutzt Aufmerksamkeitsmuster</h1> <p>In einer kürzlich veröffentlichten Studie auf arXiv wird ein innovatives Evaluationsframework vorgestellt, das zwischen extrinsischen und intrinsischen Halluzinationen in großen Sprachmodellen unterscheidet. Das Ziel ist es, die Erkennungsleistung gezielt zu verbessern, indem die unterschiedlichen Halluzinationstypen berücksichtigt werden.</p> <p>Die Autoren nutzen einen auf Aufmerksamkeitsmechanismen basierenden Ansatz zu

arXiv – cs.LG 17.11.2025 05:00

Forschung

KI trifft Tierkommunikation: Das doppelte Kontingenzproblem <p>Moderne Bioakustik‑KI‑Systeme nutzen Transformer‑Architekturen und andere fortschrittliche Modelle, um Tierlaute zu analysieren und über Arten hinweg zu interpretieren. Dabei wird jedoch ein entscheidendes Element vernachlässigt: die Art und Weise, wie die KI selbst – mit ihren wiederholenden Aufmerksamkeitsmechanismen, iterativen Prozessen und Rückkopplungsschleifen – mit den rekursiven Kommunikationsprozessen anderer Spezies interagiert.</p>

arXiv – cs.AI 13.11.2025 05:00

Forschung

Graph Neural Networks verbessern Argumentationsanalyse

In einer wegweisenden Veröffentlichung präsentiert ein internationales Forschungsteam die ersten Graph Neural Network (GNN)-Modelle, die di…

arXiv – cs.AI 13.11.2025 05:00

Forschung

ZeroSim: Transformer-Modell liefert Zero-Shot-Analyse analoger Schaltungen

In der Welt der analogen Schaltungsgestaltung steht die Leistungsbewertung häufig im Fokus, doch klassische SPICE-Simulationen sind zeitauf…

arXiv – cs.LG 12.11.2025 05:00

Forschung

AdaTrip: adaptives Graphenlernen verbessert Reservoireinlaufvorhersagen

Die Vorhersage von Einläufen in Wasserspeicher ist für die Wasserressourcenplanung entscheidend. Bisher konzentrierten sich die meisten Mod…

arXiv – cs.LG 12.11.2025 05:00

Finde Modelle, Firmen und Themen

Hopfield-Netzwerke verbinden Diffusion Guidance mit Anderson Acceleration

AdvSynGNN: Graph Neural Networks – robuste Leistung trotz struktureller Störungen

SLA2: Dynamische Sparse-Linear Attention beschleunigt Video‑Diffusion um 18,6×

Versor: Revolutionäre Geometrische Sequenzarchitektur übertrifft Transformer

Trifuse: Mehr Genauigkeit bei GUI‑Übersetzung durch multimodale Fusion

Neues EEG-Emotionserkennungsmodell mit Hybrid-Transformer erzielt Rekordleistung

Domain‑Features schlagen Transformers bei Emotionserkennung im EAV‑Datensatz

ERP mit Multi-Type-Transformern revolutioniert die Ferro‑Titanium‑Industrie

GPCR-Filter: KI-Framework entdeckt präzise GPCR-Modulatoren effizient

Neues Verfahren liefert zitierfähige klinische Zusammenfassungen ohne Training

Audio‑Attacken brechen trimodale Modelle – 96 % Erfolgsrate bei hörbaren Störungen

DiSPA: Differenzierte Substruktur-Pathway-Attention verbessert Arzneimittelantwortvorhersage

Spectral Generative Flow Models: Physikbasierte Alternative zu Transformers

Aufdeckung des Attention‑Floating‑Mechanismus in Masked Diffusion Modellen

Neues Modell erkennt Autismus durch Augenbewegungen

PAACE: Neues Framework für effiziente Kontextverwaltung bei LLM-Agenten

MetaHGNIE: Hypergraph-Contrastive Learning für heterogene Wissensgraphen

KI-Framework optimiert EV-Ladung durch kontextbasierte Agenten

Transformers revolutionieren Vorhersage von Protein-Secondary-Strukturen

Hybridmodelle treffen SGLang: Mehr als reine Vollaufmerksamkeit

Neuer Ansatz zur Erkennung von KI-Texten mit XLM‑RoBERTa

TouchFormer: Robustes multimodales Framework für Materialerkennung

ManifoldFormer: EEG-Modell nutzt Riemannsche Geometrie für höhere Genauigkeit

Vision Transformers verbessern Temperaturvorhersage bei Specklegram‑Sensoren

HyperComplEx: Adaptive Multi‑Space Embeddings verbessern Wissensgraphen

Graph Neural Networks verbessern Argumentationsanalyse

ZeroSim: Transformer-Modell liefert Zero-Shot-Analyse analoger Schaltungen

AdaTrip: adaptives Graphenlernen verbessert Reservoireinlaufvorhersagen

🍪 Cookie-Einstellungen

Audio‑Attacken brechen trimodale Modelle – 96 % Erfolgsrate bei hörbaren Störungen