cc-Shapley: Multivariate Feature Importance erfordert kausalen Kontext

Ein neues Verfahren namens cc-Shapley, vorgestellt auf arXiv (2602.20396v1), zeigt, dass die herkömmliche Berechnung von Shapley‑Werten für die Bewertung mehrdimensionaler Merkmale ohne kausale Informationen fehlerhaft sein kann. Durch die Berücksichtigung von Kausalstrukturen werden sogenannte Collider‑Bias‑Effekte und Suppressionsphänomene eliminiert, die bei reinen Beobachtungsdaten zu irreführenden Interpretationen führen.

Die Autoren erklären, dass Shapley‑Werte, die nur auf beobachteten Daten basieren, bei selbst einfachen Problemen mit zwei Merkmalen bereits falsche Zusammenhänge aufzeigen können. cc-Shapley erweitert das Konzept, indem es Interventionen nutzt und die Relevanz eines Merkmals im kausalen Kontext der übrigen Merkmale analysiert. Theoretisch wird damit bewiesen, dass die Methode die durch Collider‑Bias verursachten Verzerrungen vollständig beseitigt.

In umfangreichen Tests an synthetischen und realen Datensätzen zeigte cc-Shapley, dass viele zuvor als wichtig identifizierte Merkmale entweder ihre Bedeutung verlieren oder sogar umkehren, wenn die kausale Perspektive einbezogen wird. Diese Ergebnisse unterstreichen die Notwendigkeit, kausale Erkenntnisse in die Erklärbarkeit von KI-Modellen einzubinden, um verlässliche Einsichten zu gewinnen und wissenschaftliche Entdeckungen zu unterstützen.