Mehr Gerechtigkeit durch kollektive Aktionen von Minderheiten

Eine neue Veröffentlichung auf arXiv zeigt, dass Nutzer selbst aktiv für mehr Fairness in maschinellen Lernsystemen sorgen können. Die Studie demonstriert, wie eine koordinierte Minderheitengruppe ihre eigenen Daten neu kennzeichnet, um Verzerrungen zu reduzieren, ohne dass das Unternehmen seine Trainingsprozesse ändern muss.

Maschinelle Lernmodelle übernehmen häufig die Vorurteile, die in den Trainingsdaten vorhanden sind, und benachteiligen dadurch bestimmte Minderheitengruppen. Bestehende Maßnahmen zur Bias‑Reduktion seitens der Unternehmen sind oft mit Kosten für die Modellleistung verbunden und erfordern die Zustimmung der Organisation.

Die Autoren stellen das Konzept der „Algorithmischen kollektiven Aktion“ vor: Durch gezielte Umlabelung ihrer eigenen Daten kann eine Minderheit ihre Repräsentation im Modell verbessern. Dieser Ansatz benötigt keine Änderungen an den Algorithmen des Unternehmens und nutzt die Tatsache aus, dass viele Modelle auf nutzergenerierten Daten basieren.

Drei praktische, modellunabhängige Methoden zur Annäherung an die ideale Umlabelung wurden entwickelt und an realen Datensätzen getestet. Die Ergebnisse zeigen, dass eine kleine Untergruppe der Minderheit die Ungerechtigkeit signifikant verringern kann, während die Gesamtvorhersagegenauigkeit nur geringfügig leidet.

Die Arbeit eröffnet einen vielversprechenden Weg, wie Endnutzerinnen und Endnutzer selbst zur Fairness beitragen können. Sie unterstreicht die Bedeutung von partizipativen Ansätzen in der KI‑Entwicklung und liefert konkrete Werkzeuge, die in der Praxis eingesetzt werden können.