Neue Pipeline für kausale Fairness in Gesundheitsdaten: Wegweiser gegen Bias

Beim Einsatz von maschinellen Lernmodellen im Gesundheitswesen ist es entscheidend, dass diese keine bestehenden Vorurteile verstärken. Die neue Studie konzentriert sich auf path-spezifische kausale Fairness, die es ermöglicht, zwischen direkter Diskriminierung – etwa durch einen Arzt oder das Modell selbst – und indirektem Bias, der durch ungleiche Zugänge zum Gesundheitssystem entsteht, zu unterscheiden.

Die Autoren übertragen das strukturelle Fairnessmodell auf beobachtbare Gesundheitsdaten und entwickeln einen allgemein einsetzbaren Pipeline-Ansatz. Dabei wird der spezifische medizinische und gesellschaftliche Kontext berücksichtigt, um ein Zielmodell zu definieren, das als „fair“ gilt.

Die Arbeit schließt zwei zentrale Lücken: Erstens wird der Fairness‑Accuracy‑Tradeoff detailliert analysiert, indem direkte und indirekte Bias-Quellen getrennt und gleichzeitig mit Genauigkeitsaspekten verglichen werden. Zweitens zeigen die Autoren, wie ein Basismodell, das ohne Fairness-Beschränkungen trainiert wurde, genutzt werden kann, um kausal faire Vorhersagen in Aufgaben mit bekannten sozialen und medizinischen Ungleichheiten zu erzeugen.

Insgesamt präsentiert die Studie eine modellunabhängige Pipeline, die sowohl direkte als auch indirekte Formen von Gesundheitsbias adressiert und damit einen wichtigen Schritt zur gerechten KI im medizinischen Bereich darstellt.