Bi‑Axial Transformer verbessert Klassifizierung von EHRs

Die digitale Patientenakte, kurz EHR, wird immer komplexer: Größere Datensätze, längere Zeitreihen und multimodale Integrationen stellen neue Herausforderungen an die Analyse. Ein vielversprechender Ansatz ist der Transformer, der durch seine Fähigkeit, lange Abhängigkeiten zu modellieren und Daten parallel zu verarbeiten, in vielen Bereichen Erfolge erzielt hat.

Bei der Klassifizierung von EHRs stoßen klassische Transformer jedoch an Grenzen. Die Art der Datenrepräsentation kann die Leistung mindern und wichtige Informationen über fehlende Werte vernachlässigen. Um diese Schwächen zu überwinden, wurde der Bi‑Axial Transformer (BAT) entwickelt. BAT berücksichtigt gleichzeitig die Achsen der klinischen Variablen und der Zeitpunkte, wodurch tiefere Zusammenhänge im Datensatz erfasst werden.

Die Ergebnisse sind beeindruckend: BAT erreicht einen neuen Stand der Technik bei der Vorhersage von Sepsis und ist bei der Mortalitätsklassifizierung mit den besten Methoden vergleichbar. Darüber hinaus zeigt BAT eine höhere Robustheit gegenüber fehlenden Daten und erzeugt einzigartige Sensor‑Embeddings, die sich für Transfer‑Learning einsetzen lassen.

Zur Förderung der Reproduzierbarkeit wurden die zuvor in verschiedenen Repositorien verteilten Baseline‑Modelle neu in PyTorch implementiert und öffentlich zugänglich gemacht. Damit können Forscher die Leistung von BAT direkt vergleichen und weiterentwickeln.