Domain‑Features schlagen Transformers bei Emotionserkennung im EAV‑Datensatz

Eine neue Untersuchung zum multimodalen Erkennen von Emotionen mit dem EAV‑Datensatz hat gezeigt, dass komplexe Aufmerksamkeitsmechanismen bei kleinen Datensätzen nicht die erwartete Leistungssteigerung bringen. Stattdessen liefern gezielte Domänenfeatures deutlich bessere Ergebnisse.

Die Studie testete drei Modellfamilien: Baseline‑Transformers (M1), neuartige faktorierte Aufmerksamkeitsmechanismen (M2) und verbesserte CNN‑Baselines (M3). Während die M2‑Modelle aufgrund von Overfitting und der Zerstörung vortrainierter Merkmale 5 bis 13 Prozentpunkte unter den Baselines blieben, erzielten die M3‑Modelle mit einfachen, domänenspezifischen Anpassungen signifikante Verbesserungen.

Beispielsweise erhöhte die Integration von Delta‑MFCCs in das Audio‑CNN die Genauigkeit von 61,9 % auf 65,56 % (+3,66 pp). Für EEG‑Signale führten frequenzdomänenspezifische Features zu 67,62 % (+7,62 pp über die ursprüngliche Basis). Der Vision‑Transformer‑Baseline erreichte 75,30 % und übertraf damit den vorherigen ViViT‑Erfolg von 74,5 % dank domänenspezifischer Vortrainingsstrategien. Zusätzlich verbesserte die Anwendung von Vision‑Delta‑Features die CNN‑Leistung auf 72,68 % (+1,28 pp).

Die Ergebnisse unterstreichen, dass bei kleinen Datensätzen die Kombination aus Domänenwissen und sorgfältiger Implementierung die architektonische Komplexität von Attention‑Modellen übertrifft. Für die Praxis bedeutet dies, dass gezielte Feature‑Engineering‑Ansätze oft die bessere Wahl sind, wenn Ressourcen und Datenmenge begrenzt sind.