BiPETE: Transformer-Encoder verbessert Risikovorhersage von Alkoholmissbrauch
Ein neues Transformer-basiertes Modell namens BiPETE (Bi-Positional Embedding Transformer Encoder) verspricht, die Vorhersage von Alkohol- und Substanzmissbrauch aus elektronischen Gesundheitsakten (EHRs) deutlich zu verbessern. Durch die Kombination von rotatorischen Positions-Embeddings, die die relative Zeit zwischen Arztbesuchen erfassen, und sinusoidalen Embeddings, die die Reihenfolge der Besuche bewahren, kann BiPETE die komplexen zeitlichen Abhängigkeiten in unregelmäßig strukturierten Daten adressieren.