Statistisch signifikante Fairness-Verletzungen bei Rückfallvorhersagen entdeckt
Maschinelles Lernen wird immer häufiger in Bereichen wie Finanzen, Gesundheit und Strafjustiz eingesetzt. Mit der wachsenden Verbreitung algorithmischer Entscheidungen wächst auch das Interesse an algorithmischer Fairness. Forscher haben zahlreiche Definitionen entwickelt, die Diskrepanzen zwischen privilegierten und geschützten Gruppen messen, und nutzen kausale Inferenz, um den Einfluss von Rasse auf Modellvorhersagen zu untersuchen. Bisher fehlte jedoch ein Verfahren, um festzustellen, ob beobachtete Ungleichheiten statistisch signifikant sind oder lediglich dem Zufall zu entfallen scheinen.