SWiFT: Soft-Mask Weight Fine‑Tuning reduziert Bias in ML‑Modellen

In den letzten Jahren haben Studien gezeigt, dass maschinelle Lernmodelle in realen Anwendungen Vorurteile aufweisen können. Besonders in sensiblen Bereichen wie der Medizin kann dies die Fairness, die Generalisierungsfähigkeit und die gesellschaftliche Akzeptanz von KI‑Systemen stark beeinträchtigen.

Aktuelle Entschärfungsansätze erfordern häufig den Zugriff auf die ursprünglichen Trainingsdaten und ein umfangreiches Neutrainieren der Modelle. Dabei besteht häufig ein Spannungsfeld zwischen der Verbesserung der Fairness und der Erhaltung der diskriminativen Leistungsfähigkeit.

Die neue Methode Soft‑Mask Weight Fine‑Tuning (SWiFT) bietet einen effizienten Weg, Bias zu reduzieren, ohne die Genauigkeit zu gefährden. SWiFT benötigt lediglich ein kleines externes Datenset und nur wenige Trainingsdurchläufe.

Der Ansatz besteht aus zwei Schritten: Zunächst werden die relativen Beiträge der Modellparameter zu Bias und zur Vorhersageleistung ermittelt. Anschließend wird jedes Parametergewicht mit unterschiedlichen Gradientenströmen aktualisiert, die auf diesen Beiträgen basieren.

In umfangreichen Experimenten mit drei sensiblen Attributen – Geschlecht, Hautfarbe und Alter – auf vier dermatologischen und zwei Röntgen‑Datensätzen zeigte SWiFT eine konsequente Reduktion von Bias. Gleichzeitig erreichte das Modell konkurrenzfähige oder sogar bessere diagnostische Genauigkeit im Vergleich zu führenden Methoden.

SWiFT demonstriert damit, dass Bias‑Mitigation ohne großen Aufwand und ohne Verlust an Leistungsfähigkeit möglich ist, und eröffnet neue Perspektiven für die verantwortungsvolle Nutzung von KI in der Medizin.