MedFeat: KI-gestützte Feature Engineering für klinische Tabellendaten
In der Analyse klinischer Tabellendaten übertreffen klassische Modelle mit gezielter Feature Engineering häufig neuronale Netzwerke. Durch die jüngsten Fortschritte bei Large Language Models (LLMs) lässt sich nun Domänenwissen direkt in die Feature‑Erstellung einfließen, was ein vielversprechender Ansatz ist.
Aktuelle Methoden stützen sich jedoch meist auf eine breite Suche nach vordefinierten Transformationen und vernachlässigen dabei die spezifischen Eigenschaften des Zielmodells sowie Signale aus Feature‑Importance‑Analysen. Dadurch bleiben wichtige Informationen ungenutzt.
MedFeat adressiert dieses Problem mit einem feedback‑gesteuerten, modellbewussten Framework. Es nutzt LLM‑Reasoning, integriert Domänenwissen und liefert gleichzeitig Feature‑Erklärungen auf Basis von SHAP‑Werten. Erfolgreiche und fehlgeschlagene Vorschläge werden systematisch verfolgt, um die Feature‑Entdeckung gezielt zu steuern.
In einer Vielzahl klinischer Vorhersageaufgaben erzielt MedFeat stabile Verbesserungen gegenüber verschiedenen Baselines. Es entdeckt klinisch relevante Features, die auch unter Verteilungssprüngen generalisieren und bleibt über mehrere Jahre sowie über unterschiedliche Patientengruppen – von ICU bis zu allgemeinen Krankenhauspatienten – robust.
Der zugehörige Code wird veröffentlicht, wobei die Freigabe an die Einhaltung von Datenvereinbarungen und institutionellen Richtlinien geknüpft ist.