Benchmark zur Interpretierbarkeit von Deep Learning in klinischen Zeitreihen

In der Medizin entscheiden sich Ärzte oft auf Basis von Daten, die von komplexen Deep‑Learning‑Modellen verarbeitet werden. Damit diese Entscheidungen nachvollziehbar und auditierbar sind, muss die Modellinterpretierbarkeit gewährleistet sein. Ein neues Benchmark‑Studie untersucht, wie gut verschiedene Erklärungsansätze bei der Analyse von Zeitreihen‑Klinikdaten funktionieren.

Die Untersuchung deckt eine breite Palette von klinischen Vorhersageaufgaben ab und vergleicht mehrere Architekturen, darunter Modelle mit Aufmerksamkeitsmechanismen. Dabei wurde systematisch analysiert, wie sich die Erklärbarkeit je nach Aufgabenstellung und Modelltyp verändert.

Die Ergebnisse zeigen, dass Aufmerksamkeits‑Mechanismen, wenn sie richtig eingesetzt werden, eine sehr effiziente Möglichkeit bieten, Modellvorhersagen transparent zu machen. Im Gegensatz dazu erwiesen sich Black‑Box‑Methoden wie KernelSHAP und LIME als rechnerisch unpraktisch für Zeitreihen‑Aufgaben. Zudem sind einige gängige Interpretationsansätze zu unzuverlässig, um ihnen blind zu vertrauen.

Basierend auf diesen Erkenntnissen gibt die Studie konkrete Richtlinien für die Integration von Interpretierbarkeit in klinische Vorhersage‑Pipelines. Die Autoren stellen ihre Implementierungen als Open‑Source‑Framework namens PyHealth bereit, um Reproduzierbarkeit und Weiterentwicklung zu fördern.