Wie Vorhersagen Realität formen: So verstehen wir performative Machine Learning

Moderne Machine‑Learning‑Modelle werden immer häufiger in Bereichen mit hohen Konsequenzen eingesetzt, in denen ihre Vorhersagen die Umgebung, in der sie arbeiten, aktiv verändern. Dieses Phänomen, bekannt als performative Vorhersage, führt dazu, dass die Einführung eines Modells das Ergebnis, das es vorhersagen soll, beeinflusst. Die Folge können unerwartete Rückkopplungsschleifen, Leistungsabfälle und erhebliche gesellschaftliche Risiken sein.

Obwohl die Forschung zu diesem Thema in den letzten Jahren stark zugenommen hat, fehlte bislang eine umfassende, sozialtechnische Synthese, die die Konzepte systematisiert und praktische Leitlinien bietet. Die neue Systematisierung des Wissens (SoK) schließt diese Lücke, indem sie die Literatur zu performativen Vorhersagen gründlich zusammenfasst.

Die Arbeit liefert einen Überblick über die Hauptmechanismen, die Performativität auslösen, stellt eine Typologie der damit verbundenen Risiken vor und untersucht die vorgeschlagenen Lösungsansätze in der Fachwelt. Das zentrale Ergebnis ist die „Performative Strength vs. Impact Matrix“, ein Bewertungstool, das Fachleuten hilft, die potenzielle Wirkung und Schwere von Performativität in ihren Modellen einzuschätzen und das passende Maß an algorithmischer oder menschlicher Intervention zu wählen.