Individuelle Fairness in strategischer Klassifikation: Zufallsentscheidungen

Forscher haben einen wichtigen Schritt gemacht, um die Gerechtigkeit von maschinellen Lernsystemen zu verbessern, wenn Nutzer ihre Merkmale gezielt anpassen, um bessere Entscheidungen zu erhalten. In der strategischen Klassifikation verändern Individuen ihre Eingaben, um die Vorhersage ihres Modells zu beeinflussen, was neue Fairness-Herausforderungen mit sich bringt.

Während die Gerechtigkeit auf Gruppenebene bereits intensiv untersucht wurde, blieb die individuelle Fairness lange Zeit im Hintergrund. In einer neuen Studie wurde gezeigt, dass deterministische Schwellenwert‑Klassifikatoren die individuelle Fairness verletzen, weil gleichwertige Personen unterschiedlich behandelt werden, wenn sie ihre Merkmale leicht variieren.

Die Autoren schlagen stattdessen einen Zufallsclassifier vor, der unter bestimmten Bedingungen individuelle Fairness gewährleistet. Durch die Formulierung eines linearen Optimierungsproblems lässt sich ein optimaler, individuell fairer Zufallsclassifier bestimmen, der die gewünschten Fairness‑Kriterien erfüllt.

Darüber hinaus lässt sich die gleiche Vorgehensweise auf Gruppengerechtigkeitskriterien übertragen, sodass die Methode sowohl individuelle als auch gruppenbasierte Fairness adressieren kann.

Experimentelle Tests an realen Datensätzen haben gezeigt, dass der Ansatz die Ungerechtigkeit deutlich reduziert und gleichzeitig das Gleichgewicht zwischen Fairness und Genauigkeit verbessert. Diese Ergebnisse markieren einen bedeutenden Fortschritt in der Entwicklung gerechterer KI‑Entscheidungen.