Rashomon-Sets: doppelschneidiges Potenzial für maschinelles Lernen

In modernen Machine‑Learning‑Pipelines entstehen selten nur ein einzelnes Modell – vielmehr werden zahlreiche nahezu optimale Modelle gleichzeitig generiert. Diese Vielfalt, die als Rashomon‑Set bezeichnet wird, verändert grundlegend, wie wir Vertrauen in KI‑Systeme bewerten.

Ein einzelnes, sparsames und interpretierbares Modell kann zwar die Privatsphäre schützen, ist jedoch anfällig für gezielte Angriffe. Im Gegensatz dazu bietet ein großes Rashomon‑Set eine Art „reactive Robustheit“: wenn ein Modell durch einen Angriff versagt, bleiben häufig andere Modelle noch zuverlässig. Gleichzeitig bleibt die Leistung des Sets bei kleinen Änderungen der Datenverteilung stabil.

Die gleiche Diversität birgt jedoch ein Risiko: Je mehr nahe‑optimale Modelle offengelegt werden, desto mehr Informationen über die Trainingsdaten gelangen potenziellen Angreifern. Das führt zu einer erhöhten Informationsleakage und stellt einen Spannungsbogen zwischen Robustheit und Privatsphäre dar.

Durch theoretische Analysen und experimentelle Untersuchungen mit sparsamen Entscheidungsbäumen und linearen Modellen wird dieser Trade‑Off detailliert beschrieben. Die Ergebnisse zeigen, dass Rashomon‑Sets sowohl als wertvolle Ressource für vertrauenswürdiges maschinelles Lernen als auch als potenzielle Gefahr für die Datensicherheit fungieren können.