Neue Gleichung verbindet Genauigkeit und Fairness bei Algorithmen

Wissenschaftler haben eine neue Gleichung entwickelt, die die Genauigkeit von Vorhersagemodellen mit gängigen Fairness-Kriterien verknüpft. Die Formel zeigt, dass bei global kalibrierten Modellen die gewichteten Summen von Ungenauigkeiten innerhalb von Gruppen und von Fehlerungleichgewichten zwischen Gruppen zusammen einen „Gesamt-Ungleichgewichts‑Budget“ ergeben.

Für binäre Ergebnisse entspricht dieses Budget dem mittleren quadratischen Fehler des Modells multipliziert mit dem Unterschied in der Gruppendurchschnittsrate zwischen den Ergebnisklassen. Die Gleichung fasst bekannte Unmöglichkeitsresultate als Sonderfälle zusammen und verdeutlicht zugleich die inhärenten Kompromisse, wenn ein oder mehrere Fairness-Maße nicht vollständig erfüllt werden.

Die Autoren betonen, dass Genauigkeit und Fairness bei binären Vorhersagen eher Ergänzungen als Gegensätze sind: Eine höhere Genauigkeit reduziert zwangsläufig das Gesamt-Ungleichgewichts‑Budget, während ein Budget‑Verlust die Genauigkeit verringert. Experimente an Standard-Datensätzen bestätigen die Theorie und zeigen, dass viele Fairness‑Interventionen lediglich zwischen verschiedenen Verstößen umschichten. Wenn sie die Genauigkeit senken, vergrößern sie im Gegenzug das Gesamt‑Ungleichgewichts‑Budget.

Die Erkenntnisse lassen sich auch auf Vorhersagen mit mehr als zwei Klassen übertragen. Dort kann zusätzliche Ausgabedaten die Fairness‑Inkompatibilitäten mildern, und die Gleichung liefert klare Bedingungen, wann die binäre Unmöglichkeit auch bei Regressionsaufgaben gilt oder nicht.